Как запустить тензорную модель потока локально в Mac

Question

У меня установлена ​​модель ML в Sagemaker. Я скопировал модель (tar.gz) в свой Ma c и попытался записать файл модели выполнения tar.gz локально. Мне нужно передать ввод как изображение, которое будет go через эту модель и предоставить мне вывод локально. Как написать код python, чтобы выполнить эту полную настройку локально.

Answer 1

Одним из решений будет использование функции локального режима SageMaker Python SDK:

from sagemaker.tensorflow.serving import Model

model = Model(
    model_data='s3://bucket/path/to/your/model',
    ...  # fill in your other params
)

predictor = model.deploy(1, 'local')
predictor.predict(your_data)

Дополнительная информация: https://sagemaker.readthedocs.io/en/stable/overview.html#local -режим

Если вы предпочли бы не использовать локальный режим SageMaker, общую документацию по обслуживанию TF можно найти по адресу https://www.tensorflow.org/tfx/guide/serving.