Кажется, что ваш заголовок неверен, потому что openssl_public_encrypt шифрует данные с помощью открытого ключа, а не закрытого ключа.Однако, вот список с общими расширениями имени файла для сертификатов X.509:
.pem (Privacy Enhanced Mail) Base64 encoded DER certificate
enclosed between "-----BEGIN CERTIFICATE-----" and
"-----END CERTIFICATE-----"
.cer, .crt, .der usually in binary DER form, but Base64-encoded certificates are
common too (see .pem above)
.p7b, .p7c PKCS#7 SignedData structure without data, just certificate(s)
or CRL(s)
.p12 PKCS#12, may contain certificate(s) (public) and private keys
(password protected)
.pfx PFX, predecessor of PKCS#12 (usually contains data in PKCS#12
format, e.g., with PFX files generated in IIS)