Смущает среднее время ответа и соотношение вызовов в секунду

Question

У меня среднее время отклика, скажем, 10 секунд, также у меня есть максимальное количество параллельных соединений, которые моя служба может обработать, скажем, его 10. Теперь, как рассчитать значение количества вызовов в секунду (CPS), которое имеет моя служба обрабатывается из этих данных?

Я думаю, это 1/10 (= время AV) = 0,1 CPS или 1/10 (среднее время) * 10 (параллельные потоки) = 1 CPS.

Answer 1

Если вы просто измеряете среднюю пропускную способность, тогда да, 10 вызовов за 10 секунд - это 1 в секунду.

Ваши пользователи / потребители могут также (больше) беспокоиться о задержке (среднем времени ответа), которая составляет 10 секунд для всех из них.

Как отмечается в комментарии, среднее значение является лишь частьюистория.Как ваша служба справляется с пиковыми нагрузками - резко ли снижается пропускная способность после определенной точки, или ухудшение качества становится более плавным при увеличении нагрузки?Является ли 10 секунд наилучшим возможным временем отклика или оно лучше в условиях низкой нагрузки?Хуже при высокой нагрузке?

Существуют некоторые старые, но полезные рекомендации, ориентированные на .Net, но представляющие общий интерес, здесь .