RSA на самом деле не использует «режим»; режимы для блочных шифров.
Встроенный поставщик Sun примет «RSA / ECB / PKCS1Padding» в качестве Cipher
имени. ECB - это «Электронная кодовая книга», которая не смешивает информацию от «блока» до блока; это своего рода «режим без шифра».
Другие провайдеры принимают «Нет» в качестве режима шифрования с RSA.
BouncyCastle - хороший поставщик. Однако я не уверен, почему вам нужно потрудиться, чтобы установить его в этом случае. Провайдер SunJCE будет работать нормально.