Кажется, что ваш нынешний подход верен - при прохождении пристани через maven, пристани - это поток внутри процесса maven. Таким образом, увеличение кучи Maven увеличит кучу причала.
Как вы настраиваете MAVEN_OPTS?
Один пример, который я нашел, выглядит так: MAVEN_OPTS='-Xmx256m -Xms10m' mvn clean jetty:run
Обратите внимание, что MAVEN_OPTS
здесь является переменной среды и не передается в JVM (кто не знает, что с ней делать).