Сервировка OpenVINO - Подается для запроса не найдено - PullRequest
Новая
       21

Сервировка OpenVINO - Подается для запроса не найдено

0 голосов
/ 14 апреля 2019

Я пытаюсь обслуживать модель OpenVINO, используя процедуру, упомянутую в Репо сервера модели OpenVINO , но при попытке получить метаданные для модели возникает следующая проблема:
Команда, которую я выполняю: 

python get_serving_meta.py --grpc_address 0.0.0.0 --grpc_port 9001 \  
--model_name my_model --model_version 1

Ошибка, которую я получаю: 

    Getting model metadata for model: my_model  
    Traceback (most recent call last):
      File "get_serving_meta.py", line 97, in <module>  
    result = stub.GetModelMetadata(request, 10.0) # result includes a dictionary with all model outputs


    File "/root/.pyenv/versions/3.6.8/lib/python3.6/site-packages/grpc/_channel.py", line 549, in __call__  
    return _end_unary_response_blocking(state, call, False, None) 
File "/root/.pyenv/versions/3.6.8/lib/python3.6/site-packages/grpc/_channel.py", line 466, in _end_unary_response_blocking
    raise _Rendezvous(state, None, None, deadline)  
grpc._channel._Rendezvous: <_Rendezvous of RPC that terminated with:  
        status = StatusCode.NOT_FOUND  
        details = "Servable not found for request:Specific(my_model, 1)"  
        debug_error_string = "{"created":"@1555239621.319103888","description":"Error received from peer","file":"src/core/lib/surface/call.cc","file_line":1039,"grpc_message":"Servable not found for request: Specific(my_model, 1)","grpc_status":5}"

Чтобы получить док-контейнер, я использую cmd: 

docker run --rm -d -v /home/rachit/models/:/opt/ml:ro -p 9001:9001  \
docker.io/intelaipg/openvino-model-server:latest \
/ie-serving-py/start_server.sh ie_serving model \
--model_path /opt/ml/model1 --model_name my_model --port 9001

Структура дерева каталогов для / home / rachit / models: 

models/
|-- model1/
|---|---1/
|---|---|--- frozen_inference_graph.bin
|---|---|--- frozen_inference_graph.xml

Docker Logs:

2019-04-14 10: 36: 03,862 - ie_serving.main - INFO - Задан уровень журнала: INFO
2019-04-14 10: 36: 03,863 - ie_serving.models.model - ИНФОРМАЦИЯ - Модель начальной загрузки сервера: my_model
2019-04-14 10: 36: 03,865 - ie_serving.models.model - INFO - Список доступных версий для модели my_model: []
2019-04-14 10: 36: 03,865 - ie_serving.models.model - INFO - Версия по умолчанию для модели my_model - -1
2019-04-14 10: 36: 03,876 - ie_serving.server.start - INFO - Сервер прослушивает порт 9001 и будет обслуживать модели: ['my_model']

Я новичок, поэтому любая помощь будет очень полезна. Спасибо

1 Ответ

0 голосов
/ 05 июня 2019

На основании описания проблемы указан неверный параметр --grpc_address.Это должен быть IP-адрес службы, представленной в контейнере Docker сервера модели openvino.Если вы подключаетесь с того же хоста, на котором запущена докер, просто используйте значение localhost: python get_serving_meta.py --grpc_address localhost --grpc_port 9001 --model_name my_model --model_version 1

Кроме того, вам необходимо учитывать настройки прокси-сервера клиента.В вашем случае http_proxy должно быть не установлено или localhost должно быть включено в no_proxy переменную.

...