Glassfish может управлять количеством файлов, сохраняемых в каталоге domain / logs, но не управляет сжатием и архивированием. Я бы порекомендовал сценарий оболочки (если используется ОС * NIX), использующий gzip для сжатия и создания вашего zip-файла, запланированного с помощью cron.