Невозможно настроить Liberty таким образом, чтобы он не сохранял сообщения System.out в файле messages.log.
Я вижу из ваших комментариев выше, что вы нашли решение для этого конкретного случая.Для других, читающих это, если вы действительно застряли, вы можете написать свой собственный PrintStream и использовать System.setOut(printStream)
для фильтрации того, что на самом деле идет в стандартный вывод.Ваш PrintStream может реализовать фильтр в начале всех методов печати перед делегированием в Liberty printStream.
PrintStream libertyPrintStream = System.out;
PrintStream myPrintStream = new MyPrintStream(libertyPrintStream);
System.setOut(myPrintStream);