Решение, которое я в итоге обнаружил, было довольно простым. Если я решу, что мне нужно сделать в общей сложности 5000 запросов, и я хочу следовать парадигме отправки 2 запросов каждую секунду, независимо от того, был ли получен ответ или нет. Я могу просто использовать это использовать период нарастания.
"Нарастание" - время, необходимое для запуска всех потоков
Так что если вы хотите N запросов каждую секунду и хотите отправить Всего запросов M, вам нужно установить период увеличения как M / N в моем случае 5000/2 = 2500. Кроме того, нет необходимости иметь несколько итераций.
Конечно, это может означать, что вы можете увеличить параллельные потоки, которые служба обрабатывает в большом количестве, если служба работает очень медленно, но это то, что мы хотим проверить в любом случае.