Вы забыли упомянуть, если это для Cluster Autoscaler или Horizontal Pod Autoscaler .Вы также забыли упомянуть, находится ли он в GKE или GCE.
1 - В GKE есть два типа автомасштаберов:
a - Cluster Autoscaler , который добавляет узлыкогда требуются новые узлы:
Cscter Autoscaler масштабирует пул узлов в Cluster.В этой ситуации вам нужно раскрутить экземпляры узлов с помощью ускорителей GPU .Вы должны использовать графические процессоры Nvidia Tesla, которые поддерживаются GKE.Чтобы воспользоваться преимуществами Cluster Autoscaler, рекомендуется создать отдельный пул узлов графического процессора в кластере.Узлы графического процессора будут автоматически уменьшаться, если не хватает модулей, запрашивающих графические процессоры, и уменьшаться, если слишком много модулей запрашивают графические процессоры.
b - Горизонтальный автомаскалер стручков , который добавляет новые модули, когда требуются новые:
Этот горизонтальный автонасыщатель (HPA) масштабирует количество реплик модулей.HPA использует API метрик ресурсов для сбора метрик.С помощью HPA вы можете автоматически масштабировать модулей на основе пользовательских показателей и показателей , доступных в Stackdriver .Вы можете выбрать графический процессор в качестве одного из показателей.Для пошагового руководства вы можете обратиться к этой теме StackOverflow.
2 - В GCE автоматическое масштабирование основано на политике Autoscaling .Политики автоматического масштабирования:
- Средняя загрузка ЦП
- Метрики мониторинга Stackdriver
- Балансировка нагрузки HTTP
Это означает, что вы можете добавитьполитика, которая будет автоматически масштабировать экземпляры на основе показателей мониторинга Stackdriver.По умолчанию не существует метрики мониторинга Stackdriver для графических процессоров, но вы можете создать пользовательскую метрику , которая бы отслеживала использование графических процессоров.Следующим шагом будет автоматическое масштабирование группы экземпляров на основе этой настраиваемой метрики.
Это работает только для групп управляемых экземпляров, и политика будет основываться на вновь созданной настраиваемой настраиваемой метрике, которая будет отслеживать использование графического процессора.Я также нашел интересную статью о том, как создать собственную метрику в Stackdriver на основе использования графического процессора.