Размещение нескольких моделей для нескольких наборов данных в aws sagemaker

Question

Я прочитал, что есть способ обучения и размещения нескольких моделей с использованием одной конечной точки для одного набора данных в AWS Sagemaker. Но у меня есть 2 разных набора данных в S3, и я должен обучить модель для каждого набора данных. Могут ли эти две разные модели быть размещены на одной конечной точке?

Answer 1

Да, это называется многомодельной конечной точкой. Вы можете использовать большое количество моделей на одной конечной точке. Они загружаются и выгружаются динамически по мере необходимости, и вам просто нужно передать имя модели в запросе на прогноз.

Вот некоторые ресурсы:

• Запись в блоге + пример : https://aws.amazon.com/blogs/machine-learning/save-on-inference-costs-by-using-amazon-sagemaker-multi-model-endpoints/

• Видео, объясняющее сценарий развертывания модели ios в SageMaker: https://youtu.be/dT8jmdF-ZWw