Проблема была как-то с Plesk. Этот выделенный сервер поставляется с предварительно установленным plesk. Я никогда не использовал его до сих пор, но оказывается, что он как-то перекрывает мой ssl.conf.
Так что решением было создание моего домена под plesk. Перемещение всех файлов в новый каталог, созданный plesk. Встраивание моего ssl-сертификата в plesk и связывание сертификата с доменом.
Теперь это работает как шарм. Я не могу сказать, что я счастлив, что должен начать изучать Plesk, но, по крайней мере, он работает.