Может ли kubernetes совместно использовать один GPU между модулями?

Question

Можно ли разделить один графический процессор между kubernetes модулями?

Answer 1

Официальные документы говорят, что модули не могут запрашивать долю процессора. Если вы запускаете приложение для машинного обучения в нескольких модулях, вам нужно изучить kubeflow. Эти ребята решили эту проблему.

Answer 2

Да, это возможно - по крайней мере с графическими процессорами Nvidia.

Только не указывайте это в пределах ресурсов / запросах. Таким образом, контейнеры из всех модулей будут иметь полный доступ к графическому процессору, как если бы они были обычными процессами.

Answer 3

Как говорит официальный документ

Графические процессоры должны указываться только в разделе ограничений, что означает:

Вы можете указать ограничения GPU без указания запросов, потому что Kubernetes будет использовать ограничение в качестве значения запроса по умолчанию.

Вы можете указать GPU как в пределах, так и в запросах, но эти два значения должны быть равны.

Нельзя указывать запросы графического процессора без указания ограничений. Контейнеры (и модули) не разделяют графические процессоры . Нет чрезмерной загрузки графических процессоров.

Каждый контейнер может запросить один или несколько графических процессоров. Невозможно запросить часть GPU.

Кроме того, вы можете следить за этим обсуждением, чтобы получить немного больше информации.