Используя следующий код, вы никогда не должны получать все те же ключи
var rsa = new RSACryptoServiceProvider();
var rsaParams = rsa.ExportParameters(true);
Однако вы должны заметить, что Экспонентный ключ может быть одинаковым и, если часто это 65537 (0x010001)
"Выберите целое число e такое, что 1 RSA wiki