Если вы используете файл конфигурации в XML, то вы можете воспользоваться тем, что порядок объявления дополнений в файле XML имеет значение. Appender, который объявлен первым, будет настроен первым. Если вы используете файл конфигурации в формате .properties, то их порядок конфигурации зависит от того, в каком порядке на них ссылаются логгеры категории a.k.a. Appender, который ссылается первым, будет настроен первым.
Вы также можете взглянуть на logback, преемник log4j, который достаточно хорошо задокументирован.