NetTcpBinding нельзя использовать с IIS 6.
Вам необходимо либо обновить IIS 7 / 7.5 до WAS (Служба активации Windows), либо самостоятельно разместить службу WCF в консольном приложении или службе Windows NT.
Обновление: Если вы хотите самостоятельно разместить службу WCF, вам нужно создать экземпляр ServiceHost и сообщить ему, какую службу размещать и какую привязку использовать и т. Д. Это может быть сделано через конфигурацию или код.
Для начала прочитайте Как разместить службу WCF в управляемом приложении