Вам потребуется не только 64-битная ОС и 64-битная виртуальная машина, но и больше памяти.
В 32-битной системе Windows виртуальное адресное пространство разделено на 2 ГБ для операций ядра и 2 ГБ для пользовательских приложений. Итак, ты облажался.
Существует один возможный, но очень маловероятный обходной путь: вы можете включить переключатель / 3GB , чтобы снять это ограничение и заставить систему выделить 1 ГБ виртуального адресного пространства для операций ядра и 3 ГБ для пользовательских приложений (если они / LARGEADDRESSPACEAWARE ).
К сожалению, 32-битная JVM Sun / Oracle HotSpot не является LARGEADDRESSAWARE (насколько я знаю), и другие 32-битные JVM, скорее всего, тоже нет.
Но подумайте об этом: даже если бы вы смогли это сделать, вы бы использовали всю память, доступную для вашей системы. Ничего не будет оставлено для других программ после того, как вы выделите 3 ГБ кучи для JVM. Ваша система будет постоянно выгружаться на диск. Это было бы непригодно.
Просто получите операционную систему 64bis с большим объемом оперативной памяти. Это все, что вам нужно, если не считать, как ваша программа использует меньше памяти.