Не используйте эту библиотеку. Используйте только те шифры и протоколы, которые были разработаны и проверены профессиональными криптографами, а не взломщиками, которые говорят о «нематематических» подходах к разработке шифров.
Я бы достиг GnuTLS (для программ на C) или Botan (если с C ++ все в порядке), сам. OpenSSL популярен, но имеет необычную лицензию и не должен использоваться для нового кода.