Я не верю, что в IIS 6.0 можно размещать привязки, отличные от HTTP. В IIS 7.0 вы можете использовать WAS (Windows Activation Services) для размещения не HTTP, но я не думаю, что это работает в 6.0.
Лучшая альтернатива для XP или 2003 - размещение конечных точек, отличных от HTTP, с ServiceHost в службе Windows.