В вашем коде есть только два возможных пути выполнения.
1. Линия
Field field = beanClass.getDeclaredField(name);
... работает как положено, и возвращается следующая строка:
return (field.getModifiers() & Modifier.TRANSIENT) == Modifier.TRANSIENT
2. Возникает исключительная ситуация, и выполняется возврат в блоке catch.
Учитывая эти два пути, третье выражение return никогда не может быть достигнуто.