Вы не можете сделать это, используя переменные окружения напрямую. Вам нужно использовать набор «нестандартных» опций, которые передаются команде java. Запустите: Java -X для деталей. Опции, которые вы ищете: -Xmx и -Xms (это «начальный» размер кучи, так что, вероятно, то, что вы ищете.)
Некоторые продукты, такие как Ant или Tomcat, могут поставляться с пакетным сценарием, который ищет переменную среды JAVA_OPTS, но он не является частью среды выполнения Java. Если вы используете один из этих продуктов, вы можете установить переменную следующим образом:
set JAVA_OPTS="-Xms128m -Xmx256m"
Вы также можете использовать этот подход с помощью собственной командной строки, например:
set JAVA_OPTS="-Xms128m -Xmx256m"
java ${JAVA_OPTS} MyClass