Вы правы, что вам нужно загрузить закрытый ключ, а также X509_STORE_add_cert является неправильным.Если вы хотите использовать сертификат для сервера или клиента, вам необходимо установить сертификат в контексте ssl, используя SSL_CTX_use_xxx или SSL_use_xxx для сертификата и для закрытого ключа сертификата.
например,
SSL_CTX_use_certificate_chain_file(ctx, "cert.pem");
SSL_CTX_use_PrivateKey_file(ctx, "cert.pem", SSL_FILETYPE_PEM);
Выше предполагается, что «cert.pem» содержит как цепочку сертификатов, так и закрытый ключ.
ОБНОВЛЕНИЕ:
Я предполагаю, что в WindowsХранилище »вы имеете в виду« Магазин сертификатов Windows ».Основная проблема с использованием сертификата в хранилище сертификатов Windows - использование закрытого ключа.Если закрытый ключ помечен как «неэкспортируемый», то вы можете «использовать» только закрытый ключ, используя Windows Crypto API .Поэтому, если вы хотите использовать сертификат с закрытым ключом, хранящимся в хранилище сертификатов Windows, вам необходимо «экспортировать» сертификат (достаточно просто) и закрытый ключ в объекты openssl x509 и rsa, которые будут использоваться в функциях SSL_CTX_xxx.Лучшее, что я нашел для экспорта закрытого ключа, это использование NCryptExportKey с использованием типа BLOB-объекта BCRYPT_RSAFULLPRIVATE_BLOB, а затем разбиение BCRYPT_RSAKEY_BLOB вручную на структуру openssl RSA с использованием RSA_setxxx функции.
RSA* extract_private_key(const PCCERT_CONTEXT context)
{
HCRYPTPROV_OR_NCRYPT_KEY_HANDLE key_handle;
DWORD key_spec = 0;
BOOL free_key;
if (!CryptAcquireCertificatePrivateKey(context, CRYPT_ACQUIRE_ONLY_NCRYPT_KEY_FLAG | CRYPT_ACQUIRE_SILENT_FLAG, nullptr, &key_handle, &key_spec, &free_key))
{
return nullptr;
}
RSA* rsa = nullptr;
DWORD length = 0;
if(SUCCEEDED(NCryptExportKey(key_handle, NULL, BCRYPT_RSAFULLPRIVATE_BLOB, nullptr, nullptr, 0, &length, 0)))
{
auto data = std::make_unique<BYTE[]>(length);
if(SUCCEEDED(NCryptExportKey(key_handle, NULL, BCRYPT_RSAFULLPRIVATE_BLOB, nullptr, data.get(), length, &length, 0)))
{
// https://docs.microsoft.com/en-us/windows/desktop/api/bcrypt/ns-bcrypt-_bcrypt_rsakey_blob
auto const blob = reinterpret_cast<BCRYPT_RSAKEY_BLOB*>(data.get());
if(blob->Magic == BCRYPT_RSAFULLPRIVATE_MAGIC)
{
rsa = RSA_new();
// n is the modulus common to both public and private key
auto const n = BN_bin2bn(data.get() + sizeof(BCRYPT_RSAKEY_BLOB) + blob->cbPublicExp, blob->cbModulus, nullptr);
// e is the public exponent
auto const e = BN_bin2bn(data.get() + sizeof(BCRYPT_RSAKEY_BLOB), blob->cbPublicExp, nullptr);
// d is the private exponent
auto const d = BN_bin2bn(data.get() + sizeof(BCRYPT_RSAKEY_BLOB) + blob->cbPublicExp + blob->cbModulus + blob->cbPrime1 + blob->cbPrime2 + blob->cbPrime1 + blob->cbPrime2 + blob->cbPrime1, blob->cbModulus, nullptr);
RSA_set0_key(rsa, n, e, d);
// p and q are the first and second factor of n
auto const p = BN_bin2bn(data.get() + sizeof(BCRYPT_RSAKEY_BLOB) + blob->cbPublicExp + blob->cbModulus, blob->cbPrime1, nullptr);
auto const q = BN_bin2bn(data.get() + sizeof(BCRYPT_RSAKEY_BLOB) + blob->cbPublicExp + blob->cbModulus + blob->cbPrime1, blob->cbPrime2, nullptr);
RSA_set0_factors(rsa, p, q);
// dmp1, dmq1 and iqmp are the exponents and coefficient for CRT calculations
auto const dmp1 = BN_bin2bn(data.get() + sizeof(BCRYPT_RSAKEY_BLOB) + blob->cbPublicExp + blob->cbModulus + blob->cbPrime1 + blob->cbPrime2, blob->cbPrime1, nullptr);
auto const dmq1 = BN_bin2bn(data.get() + sizeof(BCRYPT_RSAKEY_BLOB) + blob->cbPublicExp + blob->cbModulus + blob->cbPrime1 + blob->cbPrime2 + blob->cbPrime1, blob->cbPrime2, nullptr);
auto const iqmp = BN_bin2bn(data.get() + sizeof(BCRYPT_RSAKEY_BLOB) + blob->cbPublicExp + blob->cbModulus + blob->cbPrime1 + blob->cbPrime2 + blob->cbPrime1 + blob->cbPrime2, blob->cbPrime1, nullptr);
RSA_set0_crt_params(rsa, dmp1, dmq1, iqmp);
}
}
}
if(free_key)
{
NCryptFreeObject(key_handle);
}
return rsa;
}
bool set_ctx_certificate_and_private_key(SSL_CTX* ctx, const PCCERT_CONTEXT context)
{
auto const x509 = d2i_X509(nullptr, const_cast<const unsigned char **>(&context->pbCertEncoded), context->cbCertEncoded);
if (!x509)
{
return false;
}
if(!SSL_CTX_use_certificate(ctx, x509))
{
X509_free(x509);
return false;
}
X509_free(x509);
auto const rsa = extract_private_key(context);
if (!rsa)
{
return false;
}
auto const success = SSL_CTX_use_RSAPrivateKey(ctx, rsa) == 1;
RSA_free(rsa);
return success;
}