Развертывание размещенной модели глубокого обучения на Heroku?

Question

В настоящее время я хочу развернуть глубоко изучаемый REST API, используя Flask на Heroku. Веса (это предварительно обученная модель BERT) хранятся здесь * в виде ZIP-файла . Есть ли способ, которым я могу напрямую развернуть их?

Из того, что я сейчас понимаю, я должен загрузить их на Github / S3. Это немного хлопотно и кажется бессмысленным, так как они уже размещены. Дай мне знать!

Answer 1

Как правило, вы можете написать bash скрипт, который разархивирует содержимое, а затем вы запустите свою программу. Однако ...

1. Время: распаковка стоит времени. А работники свободных уровней героку работают примерно день, а потом насильно перезапускают. Если вы используете веб-динамо, перезапуски будут еще более частыми, и если загрузка займет слишком много времени, процесс завершится неудачно (60 секунд для привязки к $PORT)

2. Размер Концерн : Размер этого zip-файла составляет 386 МБ, а при распаковке он становится еще больше.
   У Heroku ограничение размера слага составляет 500 МБ, см. https://devcenter.heroku.com/changelog-items/1145
   После распаковки zip-файла вы будет за предел. Сам zip-файл + его распакованный контент - более 500 МБ. Вам необходимо предварительно распаковать его и убедиться, что файлы меньше 500 МБ. Но, учитывая, что данные заархивированы уже 386 МБ, а распакованные они будут больше. Кроме того, вы будете полагаться на некоторые пакеты сборки (python, javascript, ...), которые для его обработки потребуют память. Вы будете go более 500 МБ.

Это означает: вам нужно будет оплатить услуги Heroku или искать другого хостинг-провайдера.