Я верю, что с помощью безопасности сообщений. Установите для атрибута attributeSuite алгоритм, который вы хотите использовать. Вы можете просмотреть доступные алгоритмы здесь:
http://msdn.microsoft.com/en-us/library/system.servicemodel.security.securityalgorithmsuite_members.aspx
Существует множество поддерживаемых алгоритмов TripleDES. Я надеюсь, что одного из них будет достаточно. Я полагаю, что класс SecurityAlgorithmSuite может быть расширен, поэтому возможно реализовать собственный алгоритм. Однако я не уверен, как вы будете его использовать ... Я не уверен, поддерживает ли раздел конфигурации по умолчанию сторонние алгоритмы.