Предел более или менее бесконечен, но, как вы говорите сами, это не то, как следует использовать асимметричную криптографию.Методы, используемые для реализации асимметричной криптосистемы, на несколько порядков медленнее, чем методы для симметричной криптографии (такие как AES, TrippleDES, PRESENT, ...).Так зачем ты это делаешь?Используйте свою асимметричную криптографию, чтобы установить ключ (используя протокол создания безопасного ключа, не изобретайте его), а затем зашифруйте свои данные с помощью симметричного алгоритма, используя установленный ключ.
На соответствующем примечании: зачем вамзашифровать другим открытым ключом?Как следует из названия, он должен быть публичным.Злоумышленник не может ничего с этим поделать, если он возьмется за него.
[Редактировать] Одна вещь, которую вы обязательно должны проверить, это то, что функции, которые вы используете, реализуют заполнение (предпочтительно RSAES-OAEP).В противном случае ваш открытый ключ будет каждый раз шифроваться на один и тот же вывод, и, таким образом, злоумышленник, следящий за вашим сообщением, все равно может узнать, что вы что-то передаете, даже если он не может видеть, какой открытый ключ вы передаете.