Запуск JAR напрямую рекомендуется для более длинных (от Sun) (кто-то может не согласиться).
Вам предлагается использовать WebStart / JNLP, апплет или упаковщик exe / batch, чтобы контролировать поведение при запуске JVM.
Другой способ, которым вы можете воспользоваться, - реализовать свою собственную оболочку на Java. то есть раскройте настоящий java.exe с -Xmx в вашей функции main ().