Если JBoss и Postgres уже предустановлены и настроены пользователями по своему усмотрению, то будет очень трудно создать автоматический установщик с серебряной пулей, который будет учитывать и правильно обрабатывать любые несовместимости, с которыми он может столкнуться в реальной жизни.
Может быть, достаточно подробной инструкции по установке. Специально для продвинутых пользователей. Для других - поставьте несколько диагностических сценариев на случай, если они столкнутся с проблемой.
Также рассмотрите возможность использования liquibase для автоматической инициализации и миграции базы данных при запуске приложения. Это значительно упростит оставшуюся процедуру установки: просто проверьте deps, создайте источник данных и разверните приложение.