Вы можете попробовать проверить, установлена ли у вас последняя версия (и, возможно, переустановить) xulrunner. Это независимая от платформы библиотека графического интерфейса пользователя Mozilla, и, насколько я знаю, она используется для отображения javadoc, всплывающих окон и вспомогательного контента, а также на вкладке javadoc. Вероятная причина вашей проблемы - ошибки / проблемы со связью между eclipse и xulrunner.