Можно ли использовать EC2 и Lambda для моделей машинного обучения?

Question

Я хочу использовать Amazon Lambda для своих веб-служб моделей машинного обучения, но, поскольку у Lambda есть ограничения по размеру, а некоторые из моих моделей имеют размер более 1 или 2 ГБ, я подумал, есть ли способ использовать S3 для хранения моделей и вызова их внутриЛямбда или мне нужно использовать EC2?

Заранее спасибо.

Answer 1

Вы можете загрузить приложение сбоку.Лямбда может быть небольшим загрузочным скриптом, который загружает ваше приложение и модели из s3 и распаковывает его.Это популярный шаблон для серверных фреймворков.Но вы должны помнить, что это будет медленно, так как модели и другие данные будут загружаться в лямбда-пространство.Вы платите за это во время холодного запуска лямбды, поэтому вам нужно будет держать его в тепле в производственных условиях.