Очевидно, что WCF и этот веб-сервис Java реализуют этот тип защиты небольшим, но существенным изменением (может относиться к этому сервису или быть общей проблемой Java).
Получен правильный ответ, но WCF не может интерпретировать элемент токена.
Мое решение, или, скорее, обходной путь, заключалось в использовании WSE-предшественника WCF (Web Service Enhancements 3.0).
Ссылка на сборку Microsoft.Web.Services3, много царапин на голове (WTF) и длинная работа с кодом, включая MutualCertificate10Assertion
, позже я получил свой ответ.