Если вы работаете с 64-битной ОС и 64-битной JVM, вы можете попробовать последнюю версию Java 6u13, поскольку я считаю, что улучшена поддержка 64-битных приложений на стороне клиента.
Примечание. Я бы не советовал использовать для кучи Java более 1/2 - 2/3 вашей памяти. Вам также может понадобиться больше основной памяти, чтобы увидеть реальное улучшение объема памяти, который вы действительно можете использовать.
(Поскольку вам нужно оставить память для ОС, других программ и собственной разделяемой памяти / библиотек Java и т. Д.)