Размер кучи Java по умолчанию (по крайней мере, в последний раз, когда я его исследовал) составляет 128 МБ.Последняя версия Eclipse (т.е. Helios) настроена на работу с размером кучи по умолчанию 512 МБ.(см. файл eclipse.ini
в базовом пути Eclipse).
Таким образом, вы, вероятно, наблюдаете такое поведение, поскольку вашему приложению требуется размер кучи, превышающий 128 МБ ... которого оно не получает от вашегосистемные JVM по умолчанию, но попадает в процесс Eclipse JVM.
В вашем файле веб-запуска ".jnlp" найдите первый элемент <j2se>
и добавьте атрибут max-heap-size
следующим образом:
<j2se version="1.3" initial-heap-size="256m" max-heap-size="512m"/>
Ссылка
http://download.oracle.com/javase/1.5.0/docs/guide/javaws/developersguide/syntax.html