Вы можете попробовать что-то вроде этого
BigFraction fraction = ...
BigInteger num = fraction.getNumerator();
BigInteger den = fraction.getDenominator();
BigInteger[] divideAndReminder = num.divideAndRemainder(den);
Тогда наконец
BigInteger integralPart = divideAndReminder[0];