Если честно, во всех, кроме самых экстремальных ситуациях, у вас не хватит ресурсов для вашего приложения, прежде чем вы превысите количество поддерживаемых соединений. IIS может обрабатывать огромное количество чистых сетевых подключений, но в конечном итоге все сводится к тому, может ли ваше приложение обрабатывать данные из них достаточно быстро.
Если вы действительно рассчитываете масштабировать это до тысяч пользователей одновременно, я бы пошел дальше и встроил ваш дизайн, чтобы иметь возможность масштабирования до нескольких интерфейсных серверов. Скорее всего, это будет выглядеть как балансировщик нагрузки или обратный прокси-сервер, который балансирует эти HTTP-соединения между интерфейсными серверами, причем эти интерфейсные серверы выполняют обработку и обмениваются данными с центральной базой данных SQL или любым другим механизмом хранения.
Редактировать: Еще одно замечание, касающееся сценария с одним сервером - независимо от того, сколько соединений может обрабатывать IIS, у вашего брандмауэра тоже есть свои ограничения. Обычно это тоже сумасшедшая сумма, но вам тоже нужно взглянуть на брандмауэр, если вы действительно хотите найти потолок.