Эта ошибка возникла в ошибка ANT 34342 . По общему мнению, это вызвано чрезмерным потреблением памяти в XSLT, используемом для генерации отчета, и это НЕ БУДЕТ исправлено в ANT.
Что мне помогло, так это увеличение максимального размера кучи, передаваемой муравью, например -Xmx3304m. Как уже упоминалось в некоторых других ответах, вы можете использовать ANT_OPTS для передачи максимального размера кучи муравью.
Что касается фактического значения максимального размера кучи, рекомендуется, чтобы оно составляло 1/4 от физической памяти или 1 ГБ, в зависимости от того, что меньше. Возможно, вам придется выйти за пределы 1 ГБ, чтобы избежать этой ошибки памяти, однако. См. Руководство по сборщику мусора на веб-сайте Oracle.