Корреляция между запросами в секунду и временем ответа?

Question

Может кто-нибудь объяснить, пожалуйста, взаимосвязь между запросами в секунду и временем ответа? Что вы пытаетесь улучшить сначала? Если ваш конкурент предлагает меньше «запросов в секунду» по наиболее часто используемым функциям, то вам, ваше приложение работает лучше с точки зрения производительности конечного пользователя?

Answer 1

Может ли кто-нибудь объяснить, как соотносятся запросы в секунду и время ответа?

Подумайте об этой ситуации, как о бензоколонке. Автомобили прибывают с разной периодичностью и занимают насос; они проводят некоторое время, наполняясь, а затем уходят.

• Каждый автомобиль, который прибывает и занимает насос, является запросом.
• Время, необходимое для заполнения, - это время вашего ответа.

Вы можете улучшить вещи двумя способами:

• Если вы добавите больше насосов, вы сможете обслуживать дополнительные машины сразу, потому что их будет больше.
• Если вы сделаете все свои насосы быстрее, вы сможете обслуживать большее количество автомобилей со временем с одинаковым количеством насосов, потому что каждая машина закончится раньше.

Что вы пытаетесь улучшить сначала?

Это зависит. Хотите ли вы обслуживать людей быстрее (улучшая их опыт, заставляя других ждать) и, следовательно, больше людей в целом, или вы хотите обслуживать больше людей одновременно (за счет возможного времени запроса)? В идеале, получите обе метрики как можно лучше.

Answer 2

Количество запросов в секунду может быть высоким, предлагая ужасный пользовательский опыт. У вас может быть много пользователей, покупающих тысячи билетов на концерты в секунду, но время отклика для каждого пользователя превышает 30 секунд.

Для высокопроизводительного и приятного веб-сайта вам нужно иметь большое количество запросов в секунду и максимальное время ответа. Как пользователь, мне нравится 5 секунд или меньше.

Answer 3

Все зависит от того, под какой нагрузкой будет работать ваша система.

Если у вас миллионы пользователей, вам нужно обрабатывать больше запросов в секунду, возможно, за счет времени отклика, в противном случае пользователи не смогут подключиться, когда захотят.

Однако, если у вас будет только 30 пользователей, для них более важно, чтобы ваша система реагировала быстрее, чем она могла обрабатывать тысячу запросов в секунду.

Answer 4

Если ваш конкурент предлагает меньше «запросов в секунду» по своим наиболее часто используемым функциям, то вам, ваше приложение работает лучше с точки зрения производительности конечного пользователя?

Я бы не согласился с этим. Посмотрите на Google. Они делают тысячи запросов в секунду - черт, я думаю, что это примерно 100 миллионов в день и 3 миллиарда в месяц.

Чтобы ответить на ваш вопрос, я думаю, что время ответа важнее, чем количество запросов в секунду. Конечно, вы можете оптимизировать / минимизировать количество сделанных запросов, но если ваш продукт масштабируется для обработки неограниченных запросов (просто добавляя больше оборудования для решения проблемы), то я думаю, что это более ценно.