Вам необходимо проверить свою гипотезу, используя некоторую форму профилирования. Обычно гораздо проще профилировать код за пределами сервера приложений, если у вас нет подходящих инструментов для этого (например, что-то вроде OptimizeIt).
Можете ли вы проверить производительность вашей библиотеки вне среды JBoss?
Если вы можете, то это способ начать. После того, как у вас есть тестовый комплект, вы можете начать профилировать отдельные компоненты и подкомпоненты, чтобы увидеть, на что тратится время.
В тестовой среде гораздо проще проводить эксперименты, например отключать сборку мусора или увеличивать начальный и максимальный размеры кучи.
Наблюдения за вашими экспериментами дадут вам новые идеи о том, где искать и какие дальнейшие эксперименты проводить.