Могут ли буферы в openssl RSA_private_decrypt / RSA_public_encrypt перекрываться? Под буферами я подразумеваю второе и третье аргументы - unsigned char *from, unsigned char *to.
unsigned char *from, unsigned char *to
Это не задокументировано. Однако сам OpenSSL использует RSA_private_decrypt() с одинаковым указателем для from и to в ssl/s3_srvr.c (видно из исходного кода OpenSSL 0.9.8o), поэтому он должен быть безопасным.
RSA_private_decrypt()
from
to
ssl/s3_srvr.c