AWS / Ruby On Rails / Puma / Nginx Максимальное количество запросов

Question

Я недавно перешел с пассажира на пуму, потому что он постоянно давал мне сообщение «ошибка превышения лимита запроса», и я прочитал в Интернете, что бесплатная пассажирская версия не поддерживает многопоточность. Мое бэкэнд-приложение размещено на двух экземплярах AWS c5xlarge и имеет эластичный балансировщик нагрузки сверху. Может ли кто-нибудь помочь мне с количеством рабочих и потоков, которые я должен установить в конфигурации Puma, и максимальным количеством одновременных запросов, которые я могу обслуживать с этими настройками?

Answer 1

Нет четкого ответа на ваш вопрос. Это зависит от многих параметров.

Вам следует создать тестовый сценарий, который отправляет множество запросов от нескольких процессов и / или потоков, и если ваш сервер может справиться с большой нагрузкой даже из нескольких экземпляров, и посмотреть, сколько запросов обрабатывается в секунду.

После того, как вы пройдете этот тест производительности, попробуйте изменить количество потоков и рабочих, чтобы увеличить количество запросов, обслуживаемых с помощью этого теста.

Я бы начал с одного работника nginx и количества потоков как числа ядер процессора и увеличивал или уменьшал в соответствии с тестом.