Инфраструктура Azure для скрипта Python, запускаемая по запросу http

Question

Я немного потерялся в джунглях документации, предложений и услуг.Мне интересно, как должна выглядеть инфраструктура, и было бы очень полезно получить толчок в правильном направлении.

У нас есть скрипт на python с pytorch, который выполняет предсказание.Сценарий должен быть запущен из http-запроса.Предпочтительно, чтобы выборки для прогнозирования также были получены от одного и того же запрашивающего.Он должен вернуть прогноз как можно быстрее.

Какой самый лучший / самый простой / быстрый способ сделать это?

У нас есть сценарий, который сейчас находится в Реестре контейнеров.Можем ли мы использовать это?Azure Kubernetes Service?Экземпляры контейнера Azure (это достаточно быстро)?

А насчет триггера, должны ли мы использовать функцию Azure или приложение логики?

Спасибо!

Answer 1

Функции Azure V2 только что запустили приватный предварительный просмотр для написания функций с использованием Python.Вы можете найти некоторые инструкции о том, как поиграть с ним здесь .Вероятно, это был бы один из самых простых способов выполнить этот скрипт с помощью HTTP-запроса.Обратите внимание, что, поскольку он находится в режиме предварительного просмотра, я не рекомендую использовать его в производственном сценарии.

Еще одна оговорка, которую следует отметить с помощью функций Azure, - это то, что при каждом создании нового экземпляра вашего приложения будет холодный старт.функция приложения.Это должно быть порядка ~ 2-4 секунд, и должно происходить только при первом запросе после того, как приложение некоторое время не видело большого трафика, или если был создан новый экземпляр для масштабирования вашего приложения для приема.больше трафика.Вы можете избежать этого холодного старта, выполнив свою функцию в специальном плане обслуживания приложений, но в этот момент вы теряете много преимуществ функций Azure.