Да, это должно быть вообще возможно. Могут быть и другие требования, которые могут нарушить эту возможность, но при простой настройке вы можете использовать один сервис с двумя конечными точками - один, представляющий незашифрованное соединение, и один, представляющий зашифрованное соединение. Вам просто нужно убедиться, что каждый клиентский набор может получить доступ только к выбранной конечной точке - это обычно не связано с WCF, а с конфигурацией компьютера или сети.