Предполагая, что код эффективен и достаточно аппаратного обеспечения, то есть нет проблем, связанных с памятью, процессором и н / ж:
1. Вы должны попытаться сохранить IOCP до минимального числа 50-100
2. Вы должны стараться поддерживать высокие потоки процессора для обработки пакетов запросов
Я не уверен, стоит ли поддерживать 2-5K активных потоков для обработки 10-20K запросов / сек.