Похоже, это недокументированная проблема с .Net 3.5.Пробовал то же самое в .Net 4.0, он работает как чудо.
Моя цель состояла в том, чтобы использовать двоичное кодирование с wsDualHTTPBinding, потому что Windows Server 2008 / IIS7 не был вариантом в то время, когда эта проблема былаподнял.
Предпочтительным решением для использования двоичного кодирования с дуплексным связыванием является использование nettcpbinding, и он зависит от того, требуется ли IIS7 (если вы не являетесь хостом), который доступен только на Windows Server 2008 или более поздней версии.
Мы убедили нашу инфраструктурную группу в обновлении .. и теперь все хорошо :)