Поддерживает ли мультимодель Sagemaker пакетное преобразование?

Question

Sagemaker документация объясняет, что мы можем создать конечную точку, которая может поддерживать несколько моделей. Однако я не могу найти документацию о том, как можно использовать одну и ту же модель для пакетного преобразования. Может ли та же модель, которая используется в многомодельной конечной точке, также использоваться для пакетного преобразования?

Answer 1

Может ли та же модель, которая используется в многомодельной конечной точке, также использоваться для пакетного преобразования?

В настоящее время нет.

Однако вы можете использовать логический вывод Модель конвейера для поддержки конечной точки или запуска задания пакетного преобразования: https://docs.aws.amazon.com/sagemaker/latest/dg/inference-pipelines.html