В Ubuntu правильным способом настройки переменных Tomcat является редактирование файла
/etc/default/tomcat5.5
(или /etc/default/tomcat6
, если у вас запущена более новая версия)
Внутри этого файла установите переменную JAVA_OPTS, как описано в других ответах здесь,
например
JAVA_OPTS="-Xmx512m"
для установки максимальной памяти 512 МБ.