Основанный на GPU алгоритм на AWS Lambda

Question

У меня есть функция, которая выполняет некоторые математические операции и мне нужна система GPU 16 ГБ, но эта функция не будет срабатывать всегда, и в остальное время моя система не будет использоваться.Я узнал об AWS Lambda.Могу ли я запустить алгоритм на основе GPU на Lambda ??Так что всякий раз, когда мне понадобится графический процессор, я получу систему в облаке.Мне нужно небольшое описание об этом.Любая помощь будет оценена.Заранее спасибо.

Answer 1

Пакетная обработка - хорошее решение для определенных типов рабочей нагрузки.Другой вариант - GPU на ECS , который можно использовать для выполнения частых задач с использованием графического процессора.

Answer 2

В настоящее время лямбда не имеет графического процессора.

Однако, если вам просто нужно сделать вывод;эмуляция через CPU прекрасно работает на AWS lambda;Вот статья, в которой более подробно:

https://aws.amazon.com/blogs/machine-learning/how-to-deploy-deep-learning-models-with-aws-lambda-and-tensorflow/

Answer 3

Вы не можете указать среду выполнения для функций AWS Lambda, поэтому нет, вы не можете требовать наличия графического процессора (на самом деле физические машины, которые AWS выбирает для размещения в своем пуле Lambda, почти наверняка не будут есть один).

Лучше всего будет запустить функцию, требующую графического процессора, в качестве пакетного задания в вычислительном кластере, настроенном для использования экземпляров p-типа.Руководство здесь может быть полезным.