Как мне сгенерировать пару ключей RSA в GnuTLS в C? Какую функцию мне нужно вызвать? Нужно ли сначала инициализировать библиотеку?
Вы должны проверить Алгоритмы открытого ключа согласно документации. В основном инициализируйте закрытый ключ, затем сгенерируйте закрытый ключ. Затем вы можете экспортировать сгенерированные ключи.