Каждое приложение будет предъявлять разные требования, поэтому будет сложно дать оптимальный ответ для вашей ситуации. Однако, как правило, я обнаружил, что выделение 60% памяти сервера для кучи JVM работает хорошо, когда на сервере работают только Apache и Java.
Так что я бы порекомендовал -Xms1g -Xmx1g
для вашего сервера. Это должно оставить достаточно места для издержек ОС, памяти Apache и Java, выходящей за пределы кучи (а именно: постоянная генерация и размер стека, умноженные на количество потоков). Вы должны поэкспериментировать и профилировать свое приложение, чтобы убедиться, что оно стабильно.