Метод, который вы ищете: public BigInteger modPow(BigInteger exponent,BigInteger m)
Использование:
BigInteger base= new BigInteger("111");
BigInteger exponent= new BigInteger(yourExponent);
BigInteger m= new BigInteger(yourM);
System.out.println(base.modPow(exponent,m));
Информацию об ограничениях BigInteger см. в этом вопросе