у нас была такая же проблема на наших удаленных Linux-системах Ubuntu 16.04, работающих под управлением Jboss EAP 6.4.0, но не при локальном запуске нашего сервера Jboss в Eclipse / Windows.
Для свойства append уже установлено значение true.
Я наконец-то заставил его работать, объявив свойство добавляться перед именем файла в standalone-full.xml.
<properties>
<property name="append" value="true"/>
<property name="fileName" value="${jboss.server.log.dir}/server.log"/>