Tomcat использует флаги запуска Java для настройки конфигурации памяти. Вы захотите установить переменную среды JAVA_OPTS включающей -Xmx512m (или столько места в куче, сколько, по вашему мнению, вам понадобится).
export JAVA_OPTS="-Xmx512m"
Если вы получаете исключения памяти PermGen, вам также может потребоваться установить MaxPermSize:
export JAVA_OPTS="-Xmx512m -XX:MaxPermSize=128m"
Обычные сценарии запуска catalina будут включать переменную среды JAVA_OPTS в свой обычный процесс запуска.