Как создать образ докера для Sagemaker, который не является частью оценки Amazon для создания конечной точки?

Question

Я создал пользовательскую модель в Sagemaker и сериализовал модель с помощью pickle.Я хочу развернуть свою модель через хостинг-сервисы Sagemaker и прочитать это

https://docs.aws.amazon.com/sagemaker/latest/dg/how-it-works-hosting.html

Но я заблудился о том, как создать свой собственный контейнер Docker для пользовательской модели с алгоритмом, которыйв настоящее время не реализовано как часть Amazon Estimator.

Как создать собственный образ докера для загрузки в ECR, а затем построить контейнер, который позволяет мне создавать конечную точку?

Answer 1

Посмотрите это руководство: https://github.com/awslabs/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own/container

В нем показано, как создать контейнер для развертывания учебных заданий и развертывания на конечной точке.

Если вам нужно только развернуть конечную точку, вы можете пропустить обучающую часть.

Как упоминалось в документации, для конечной точки SageMaker вам необходим контейнер Docker с реализованным веб-сервером, который прослушивает HTTP-запросы по маршрутам "/ ping" и "/ invocations". В руководстве они реализовали веб-сервер с флягами, используя NGINX и Gunicorn.

Для вашего случая использования: https://github.com/awslabs/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own/container/decision_trees

В этом каталоге вы можете пропустить файл "train" и сохранить остальные файлы в целости, за исключением файла "tortor.py ". Это файл, который вы измените, чтобы реализовать собственный алгоритм вывода.