Если вам нужно только содержимое XmlDocument, один из способов - объявить операцию с параметром XmlNode
:
[OperationContract]
void MyOperation(XmlNode xml);
Затем вызвать его из клиента следующим образом:
XmlDocument doc = ...
myService.MyOperation(doc.DocumentElement);