Вы должны передавать не 1 RSA_private_decrypt
, а длину блока, который вы пытаетесь расшифровать, т.е. возвращаемое значение RSA_public_encrypt
= 128. Вы не знаете длину открытого текста при расшифровке!
В результате выполнения этого полного примера программы:
128 from encrypt.
1 from decrypt: 'A'
Источник:
#include <openssl/rsa.h>
#include <openssl/engine.h>
#include <stdio.h>
int main(int argc, char **argv)
{
RSA *myRSA;
unsigned char cleartext[2560] = "A";
unsigned char encrypted[2560] = { 0 };
unsigned char decrypted[2560] = { 0 };
int resultEncrypt = 0;
int resultDecrypt = 0;
myRSA = RSA_generate_key ( 1024, 65537, NULL, NULL );
resultEncrypt = RSA_public_encrypt ( 1 /* strlen(cleartext) */, cleartext, encrypted, myRSA, RSA_PKCS1_OAEP_PADDING );
printf("%d from encrypt.\n", resultEncrypt);
resultDecrypt = RSA_private_decrypt( 128 /* resultEncrypt */, encrypted, decrypted, myRSA, RSA_PKCS1_OAEP_PADDING);
printf("%d from decrypt: '%s'\n", resultDecrypt, decrypted);
RSA_free ( myRSA );
return 0;
}