Почему GAE не распределяет нагрузку на другие доступные экземпляры?

Question

Первым делом, вот мой app.yaml:

runtime: nodejs10
env: standard
instance_class: F1
handlers:
  - url: /.*
    script: auto
automatic_scaling:
  min_instances: 1
  max_instances: 20
inbound_services:
  - warmup

Я использую Apache Тест для этого:

ab -c30 -n100000 "${URL}"

Что я замечаю в консоли GAE в том, что у меня есть 8 доступных экземпляров, но только 3 берут 99% работы. Остальные подают либо без запроса, либо с очень маленькой порцией.

Есть идеи, в чем может быть проблема?

Answer 1

Тот факт, что нагрузка не распределяется равномерно между запущенными экземплярами, является нормальным и фактически желательным, если число экземпляров, все еще обрабатывающих запросы, является достаточным для обработки текущего уровня нагрузки с удовлетворительным уровнем производительности - это позволяет другим экземпляры должны простаивать достаточно долго, чтобы автоматически отключаться (из-за неактивности).

Это часть динамического c журнала управления экземплярами c, используемого с автоматическим c и базисным c расписанием.

Answer 2

Я бы порекомендовал использовать элемент «max_concurrent_requests» в вашем файле «app.yaml», так как этот элемент является числом одновременных запросов, которые может принять экземпляр автоматического масштабирования c до того, как планировщик порождает новый экземпляр (имейте в виду, что максимальный лимит составляет 80).

Кроме того, вы также можете установить «max_pending_latency» , который определяет максимальное количество времени, которое App Engine должен разрешить запросу дождитесь в очереди ожидания, прежде чем запускать дополнительные экземпляры для обработки запросов, чтобы задержка в ожидании была уменьшена. Если вы достигнете предела, это будет сигнал к увеличению, поэтому количество экземпляров будет увеличено.