Я не могу сказать вам, почему шифр не существует. Я могу только предположить, что он не существует в имеющейся у вас версии openssl или его нужно добавить в openssl для начала.
Знаете ли вы, что поддержка PSK встроена в tls1.3? Если вы используете openssl 1.1.1, вы можете использовать PSK из командной строки openssl.
Сервер:
# use a 48 byte PSK
$ PSK=63ef2024b1de6417f856fab7005d38f6df70b6c5e97c220060e2ea122c4fdd054555827ab229457c366b2dd4817ff38b
$ openssl s_server -psk $PSK -cipher TLS13-AES-256-GCM-SHA384 -nocert -accept 2020
Клиент:
$ openssl s_client -psk $PSK -connect localhost:2020
CONNECTED(00000003)
---
no peer certificate available
---
No client certificate CA names sent
Server Temp Key: X25519, 253 bits
---
SSL handshake has read 195 bytes and written 475 bytes
Verification: OK
---
Reused, TLSv1.3, Cipher is TLS13-AES-256-GCM-SHA384
…
Поэтому я бы порекомендовал вам поискать исходный код для команд openssl 1.1.1 s_server и s_client, чтобы увидеть пример использования PSK в tls1.3.