Вы в основном столкнулись с проблемой «факторизации больших чисел», которая является основой современного шифрования с открытым ключом и, как известно (или надеется), является сложной вычислительной проблемой. Я действительно надеюсь, что вы не найдете гораздо лучшего решения, иначе вся инфраструктура безопасности мира рухнет ...:)