Похоже, что ejabberd вынужден использовать TLS / SSL на соединениях C2S, но вы не дали ему правильный сертификат для хоста, к которому пытается подключиться клиент. Один из способов решить эту проблему - получить действующий сертификат для вашего хоста. Например, вы можете получить их бесплатно от Let's Encrypt . Другой способ решить эту проблему - разрешить незащищенные соединения c2s, но я бы не рекомендовал это. Это можно сделать, установив starttls_required в false на слушателе c2s, как описано в docs