Опция -Xss512m увеличивает размер каждого стека потоков до 512 Мбайт.Это безумие.Я ожидаю, что это , из-за чего JBoss не хватает памяти.
Почему вы в первую очередь увеличиваете размер стека?Размер стека по умолчанию должен подходить для большинства целей.Если он недостаточно велик, то есть большая вероятность, что:
в вашей программе есть ошибка, которая вызывает бесконечную рекурсию (и увеличивает стекразмер не поможет) или ...
вы используете алгоритм с патологическим случаем (а увеличение размера стека является полосатым).
Исходя из ваших комментариев, я бы предположил, что вы используете регулярное выражение для анализа всего входного документа, содержащего несколько записей.Движок регулярных выражений использует рекурсию для работы с повторяющимися элементами / группами.
Если предположить, что это проблема, то исправление состоит в том, чтобы переписать ваш код синтаксического анализа.