Как запустить TensorFlow Serving ModelServer с конечной точкой API REST

Question

Я пытаюсь использовать новую возможность отправлять HTTP-запросы на TensorFlow ModelServer. Однако, когда я пытаюсь выполнить следующее, он не распознает аргумент --rest_api_port:

tensorflow_model_server --rest_api_port=8501 \
   --model_name=half_plus_three \
   --model_base_path=$(pwd)/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_three/

unknown argument: --rest_api_port=8501

Answer 1

Я столкнулся с той же ошибкой. Я просмотрел исходный код.

В файле main.cc опция rest_api_port отсутствует в исходной версии r1.7 ниже.

В связи с этим, если вы хотите использовать REST, вам нужно использовать tenorflow-Обслуживание r1.8 выше или реализовать его самостоятельно.

Надеюсь, это полезно для вас.