Невозможно запустить Tensorflow Serving с помощью файла конфигурации

Question

Я пытаюсь запустить образ тензор потока / обслуживания с помощью файла конфигурации.Выдает ошибку относительно доступа к файловой системе для обслуживаемого.Я пробовал с одной моделью и несколько моделей не работают.

Команда выполнения docker выглядит следующим образом

sudo docker run -p 8501:8501 --mount type=bind,source=/home/projects/models/model1/,target=/models/model1 --mount type=bind,source=/home/projects/models/model2/,target=/models/model2 --mount type=bind,source=/home/projects/config.conf,target=/models/config.conf -t tensorflow/serving --model_config_file=/models/config.conf

 "E tensorflow_serving/sources/storage_path/file_system_storage_path_source.cc:369] FileSystemStoragePathSource encountered a file-system access error: Could not find base path /home/projects/models/model1/ for servable model1
"

Мой файл конфигурации выглядит следующим образом

model_config_list {
 config {
    name: 'model1',
    base_path: '/home/projects/models/model1/',
    model_platform: 'tensorflow'
  }
  config {
    name: 'model2',
    base_path: '/home/projects/models/model2/',
    model_platform: "tensorflow"
  }

}

Но без использования файла конфигурации я могу запустить моделииндивидуально с помощью команды docker.

sudo docker run -t --rm -p 8501:8501    -v "/home/projects/models/model1:/models/model1"     -e MODEL_NAME=model1     tensorflow/serving &

Answer 1

Нет необходимости монтировать каждую модель отдельно!Вы можете смонтировать все модели следующим образом:

sudo docker run \
-p 8501:8501 \
--mount type=bind,source=/home/projects/models/,target=/models/ \
-t tensorflow/serving \
--model_config_file=/models/config.conf

и ваш файл config.conf теперь выглядит следующим образом (поместите этот файл в /home/projects/models/):

model_config_list {
  config {
    name: 'model1',
    base_path: '/models/model1',
    model_platform: 'tensorflow'
  },
  config {
    name: 'model2',
    base_path: '/models/model2',
    model_platform: "tensorflow"
  },
}