Я следил за этим блогом, чтобы узнать, как развертывать модели ML с использованием обслуживания TF: https://towardsdatascience.com/how-to-deploy-machine-learning-models-with-tensorflow-part-2-containerize-it-db0ad7ca35a7
Я клонировал репозиторий github для tf_serving_example-master, на который ссылается блог, и использовал файлы, присутствующие там.и он прекрасно работал для предварительно обученной модели GAN, которую автор использовал в github.
Однако, когда я попытался использовать другую модель предварительно обученного тензорного потока: save_model_half_plus_two_cpu, я получаю ошибку.
Подробности ниже: Ошибка получена, когда запрос REQUEST был отправлен на сервер. Используемая команда приведена ниже:
python svnh_semi_supervised_client.py --server=172.17.0.2:9000 --image=<path to my test image repository>
Сначала я изменил svnh_semi_supervised_client.py, чтобы изменить имя и подпись модели следующим образом:
request.model_spec.name = 'half_plus_two' (changed only the model name)
И получил следующую ошибку:
grpc.framework.interfaces.face.face.AbortionError: AbortionError(code=StatusCode.FAILED_PRECONDITION, details="Serving signature key "predict_images" not found.")
Затем я извлек имя подписи для сохраненной модели, которую я использую, с помощью сохраненной модели cli и изменил svnh_semi_supervised_client.py, чтобы изменить имя модели и подписькак это:
request.model_spec.name = 'half_plus_two'
request.model_spec.signature_name = 'regress_x_to_y'
Но когда я вызвал запрос, я получил следующееror:
grpc.framework.interfaces.face.face.AbortionError: AbortionError(code=StatusCode.INVALID_ARGUMENT, details="input tensor alias not found in signature: images. Inputs expected to be in the set {inputs}.")
Обратите внимание, что никаких ошибок не возникало, когда я использовал предварительно обученную модель GAN, которую блоггер поделился в своем репозитории git.
Пожалуйста, ознакомьтесь, какие изменения необходимы игде их делать, если мне нужно изменить коды под любую произвольную модель?
Заранее спасибо!