Как справиться с одновременной загрузкой файлов в моем кластере kubernetes?

Question

Я проектирую архитектуру моей системы обеспечения экземпляров программного обеспечения.Для этого я буду использовать kubernetes таким образом, чтобы у каждого клиента было свое пространство имен с модулями их целостности.Тем не менее, кластер kubernetes будет иметь общую точку входа для всех экземпляров, которые будут серверами nginx.

Мой вопрос заключается в следующем, поскольку предоставленное программное обеспечение позволяет загружать файлы, в случае, если одновременно несколькоиз моих клиентов решили загрузить файл одновременно, я рискую, что сервер nginx перегружен и никто не может получить доступ к вашему наемному экземпляру?

Есть ли полезная практика, чтобы попытаться спроектировать мою архитектуру?

Answer 1

Можно использовать входной контроллер nginx и развернуть его с несколькими репликами, чтобы его можно было масштабировать для обработки нагрузки.Тогда ваш nginx является частью кластера (а не отдельным сервером) и может использовать возможности кластера kubernetes для горизонтального масштабирования.

Если вы не работаете в режиме on-prem с NodePort / HostPort - тогда вы можете захотетьзапустить ваш nginx в качестве внешнего балансировщика нагрузки, так как в этом случае у вас его нет у облачного провайдера.Тогда вы можете настроить ограничение скорости и регулирование в nginx.Если облако, то вы также можете использовать аннотации, чтобы сделать это с nginx ingress.