Как я могу вызвать конечную точку AWS SageMaker, чтобы получить выводы?

Question

Я хочу получать прогнозы в реальном времени, используя мою модель машинного обучения с помощью SageMaker.Я хочу напрямую получать выводы на моем сайте.Как я могу использовать развернутую модель для прогнозов?

Answer 1

Конечные точки Sagemaker публично не доступны в Интернете.Итак, вам понадобится какой-то способ создания общедоступной конечной точки HTTP, которая может направлять запросы к вашей конечной точке Sagemaker.Один из способов сделать это - использовать функцию AWS Lambda, предоставляемую шлюзом API.

Я создал пример веб-приложения, которое берет изображения с веб-камеры и передает их в конечную точку Sagemaker для классификации.При этом используется стратегия конечной точки API Gateway -> Lambda -> Sagemaker, которую я описал выше.Вы можете увидеть весь пример, включая инструкции по настройке лямбды (и код для вставки лямбды) в этом репозитории GitHub: https://github.com/gabehollombe-aws/webcam-sagemaker-inference/

Answer 2

Вы можете вызывать конечную точку SageMaker с помощью API Gateway или Lambda.

Lambda:

Используйте sagemaker aws sdk и вызывайте конечную точку с помощью lambda.

Шлюз API:

Использование шлюза API и передача параметров в конечную точку с помощью прокси-сервера службы AWS.

Документация с примером:

https://aws.amazon.com/blogs/machine-learning/call-an-amazon-sagemaker-model-endpoint-using-amazon-api-gateway-and-aws-lambda/

Надеюсь, это поможет.