Проблема заключается в количестве одновременных потоков, которые может запустить IIS (похоже, что вы настроили его на 10 в данный момент). Вы можете увеличить это число с помощью конфигурации IIS ... но производительность снизится.
Проблема в том, что службы Duplex, размещенные в IIS, никогда не освобождают свои потоки ... поэтому каждый пользователь, подключенный к службе, всасывает другой рабочий поток IIS. Производительность дуплекса обсуждалась в другом месте, но общий тон звучит так:
IIS не может размещать масштабируемые дуплексные службы.
Я бы предложил найти другой способ размещения этих служб (WCF вне IIS, пользовательский веб-сервер и т. Д.).
Удачи.