Вы не можете.Логирование JBoss запрограммировано на использование log4j.Замена его нецелесообразна.
Однако ничто не мешает вашим собственным приложениям использовать log5j, если вы выберете - kjust добавьте JAR в библиотеки ваших приложений.Регистрация будет вестись отдельно от собственной регистрации JBoss.
Сноска: JBoss 3 на четыре поколения отстает от текущих версий.Вы должны действительно подумать о его замене, оно устарело.