Я нашел свои старые заметки.
Вы не можете использовать самоподписанный сертификат. Что вам нужно сделать, так это пойти по более длинному маршруту и создать «настоящий» локальный ЦС, как показано ниже:
Создание личного ключа для CA
openssl genrsa -out CA/cakey.pem -des3 2048
Создание запроса на подпись сертификата для корневого сертификата CA
openssl req -new -config openssl.cnf -key CA/cakey.pem -out CA/cacert.req
Самоподписать сертификат CA
openssl x509 -req -in CA/cacert.req -extfile openssl.cnf \
-extensions v3_ca -signkey CA/cakey.pem -out CA/cacert.pem -days 3650
Создание хранилища ключей Java, содержащего сертификат CA для вашего клиента:
keytool -importcert -file CA/cacert.pem -keystore client.jks -storepass [password]