Вы также должны настроить версию сообщения, потому что по умолчанию она использует WS-Addressing:
<bindings>
<customBinding >
<binding name="MyBindingName" >
<mtomMessageEncoding messageVersion="Soap11" /> <!-- or Soap12 -->
<security authenticationMode="UserNameOverTransport"
includeTimestamp="false">
</security>
</binding>
</customBinding>
</bindings>
TransactionFlow
элемент вообще не нужен.
Btw. показанное вами сообщение является недопустимым использованием токена WS-Security, поскольку он должен находиться внутри элемента Security
, поэтому, если сервис действительно того, чего ожидает служба Java, он не соответствует спецификации WS-Security, и вместо этого вам придется использовать собственный заголовок сообщения .