Это зависит от требований вашего приложения. Вы можете начать с определенного размера, например:
-Xms512m -Xmx512m -XX:PermSize=128m -XX:MaxPermSize=256m
Вам необходимо отслеживать JVM с помощью JConsole и проверять, достаточно ли он хорош. Вы можете настроить параметры в соответствии с результатом вашего монитора. По сути, -Xms должен быть равен -Xmx, что может снизить нагрузку на процессор для увеличения размера кучи.