Обслуживание Univeral Sentence Encoder Model с использованием тензорного потока и докера

Question

У меня есть универсальная модель кодировщика предложений, сохраненная на моем локальном диске. Я пытаюсь обслуживать модель в док-контейнере, используя тензор потока.

Команда:

sudo docker run -p 8502:8502 --name tf-serve -v /home/ubuntu/first/models:/models -t tensorflow/serving --model_base_path=/models/test

, где /home/ubuntu/first/models - путь к папке с файлами моей модели.

После запуска изначально он входит в бесконечный цикл.

Что здесь происходит ?! Любая помощь будет оценена.

Answer 1

измените вашу команду следующим образом:

sudo docker run -p 8502:8502 --name tf-serve -v /home/ubuntu/first/models:/models/test -t tensorflow/serving --model_base_path=/models/test

ваш --model_base_path равен /models/test, поэтому вам нужно скопировать файлы в эту папку в вашем -v