Это результат, который вы видите в Firefox, когда сервер не настроен должным образом для SSL. Chrome, кстати, только что дал общий код "ssl fail".
В результате браузер отправляет рукопожатие SSL, когда сервер ожидает HTTP-запрос. Сервер отвечает кодом 400 и сообщением об ошибке, которое намного больше, чем сообщение о рукопожатии, которое ожидает браузер. Отсюда сообщение FF.
Как мы видим из ответов здесь, есть много вещей, которые могут нарушить настройку SSL, но не остановить запуск сервера или дать какие-либо подсказки в error.log.
Я систематически проверял все ответы, пока, наконец, не нашел правильный, прямо внизу.
Вот что у меня было в логах доступа:
rfulton.actrix.co.nz:80 192.168.1.3 - - [09/Oct/2016:13:39:32 +1300] "\x16\x03\x01" 400 0 "-" "-"
rfulton.actrix.co.nz:80 192.168.1.3 - - [09/Oct/2016:13:39:46 +1300] "\x16\x03\x01" 400 0 "-" "-"
rfulton.actrix.co.nz:80 192.168.1.3 - - [09/Oct/2016:13:49:13 +1300] "\x16\x03\x01" 400 0 "-" "-"