Первое, что я хотел бы проверить - это конфигурация для mod_nss. Это странный случай, потому что он ваш, и в мире нет ни одного подобного :-) Принимая во внимание, что если бы в Firefox или самом mod_nss была какая-то огромная ошибка, я думаю, вы уже узнали об этом в своем гугл квест. Тот факт, что вы поиграли с конфигурацией (например, отключили SSL3 и другие случайные изменения), также является подозрительным.
Я бы вернулся к очень ванильной конфигурации mod_nss и посмотрел, работает ли это. Затем систематически изменяйте вещи в соответствии с текущей конфигурацией, пока не сможете воспроизвести проблему. Судя по всему, источник ошибки находится где-то в конфигурации config шифра mod_nss и связанных с ним согласованиях протокола. Поэтому, возможно, вы случайно изменили что-то там, когда пытались отключить SSLv3 (кстати, зачем отключать SSL3? Обычно люди отключают V2?).
Еще одна вещь, которую нужно проверить, это то, что вы используете последнюю версию mod_nss, и это не известная ошибка в этом. Интересен тот факт, что ему удается запустить сеанс, а затем завершить его неудачей - это говорит о том, что, возможно, он пытается пересмотреть сеанс и не может согласовать шифры в этот момент. Так что это могут быть симметричные шифры. Или это может быть просто ошибка реализации в вашей версии mod_nss, которая каким-то образом искажает протокол.
Еще одна идея, и это дикое предположение, заключается в том, что браузер пытается возобновить сеанс, который был согласован с SSLv3, до того, как вы его отключили, и что-то прерывается при попытке возобновить этот сеанс, когда V3 выключен, или, возможно, mod_nss просто не реализует это правильно.
Материал java / tomcat выглядит как красная сельдь, поскольку, если я не понял вашего описания, ничего из этого не относится к рукопожатию / протоколу SSL.