Это ограничение не просто случайно изобретено Bouncy Castle, и использование симметричного ключа не является "обходным путем": это правильная практика.
Алгоритм RSA по своей сути не подходит для шифрования больших количествданных.Если вы действительно действительно действительно хотите использовать его для большого количества данных, то вы можете просто разбить свои данные на достаточно маленькие блоки и зашифровать каждый из них.Но это не стандартная практика, и вы можете столкнуться с проблемами безопасности, о которых вы не задумывались, в то время как блочные шифры, такие как AES, имеют стандартные средства для решения проблем, с которыми вы можете столкнуться (посмотрите режимы блоков -- по существу, существует проблема безопасности, например, шифрование одних и тех же ключей несколько раз, а блочные режимы - это встроенный способ справиться с этим).
Я бы просто придерживался стандартной практики потоковой передачис симметричным шифрованием и шифрованием симметричного ключа (и, по сути, ничего другого) с помощью RSA.