Понимание Sagemaker Neo

Question

У меня есть несколько вопросов для Sagemaker Neo :

1) Могу ли я воспользоваться Sagemaker Neo, если у меня есть модель tenorflow / mxnet, обученная извне?

2) Sagemaker предоставляет изображение контейнера для 'классификация изображений' и выпустило новое изображение с именем ' image-классификация-neo ' для нео компиляция. В чем разница между ними обоими? Требуется ли мне новый Neo-совместимый образ для каждого предварительно созданного шаблона (контейнера) sagemaker?

Любая помощь будет оценена

Спасибо !!

Answer 1

1) Да.Загрузите вашу модель в корзину S3 в виде файла model.tar.gz (аналогично тому, что SageMaker сохранит после тренировки), и вы сможете скомпилировать ее.

2) Версии Neo используют среду выполнения Neo для загрузки и прогнозирования.так что да, контейнеры разные.Прямо сейчас Neo поддерживает встроенные алгоритмы XGBoost и Image Classification.Конечно, вы можете создать свой собственный контейнер и использовать Neo внутри него.Для получения дополнительной информации: https://docs.aws.amazon.com/sagemaker/latest/dg/neo.html

Julien

Answer 2

Давно уже задавался этот вопрос. Но в случае, если кто-то появится здесь после поиска того же вопроса:

В основном, Amazon NEO - это оптимизатор для обеспечения совместимости программы для нескольких базовых аппаратных средств и платформ. На основании документации: «Neo - это новая возможность Amazon SageMaker, которая позволяет моделям машинного обучения обучаться один раз и работать в любом месте в облаке и на краю».

И да, эти 2 изображения докера отличаются. Поскольку один из них имеет код оптимизатора, другой нет. Разница не во входных данных, поэтому «image-классификация-neo» может работать с изображениями, которые могут работать «классификация изображений». Но выходной отличается. Вывод 'image -ification-neo' может использоваться на нескольких платформах. Вы можете проверить поддерживаемые аппаратные платформы по ссылке ниже: https://docs.aws.amazon.com/sagemaker/latest/dg/neo.html