Как экспортировать модель с моими собственными настроенными функциями, используя тензор потока-обслуживания?

Question

У меня есть новое требование при использовании tenorflow-Обслуживание для экспорта моей модели, что если мне просто нужно знать число на моем входном изображении, а не тестировать эту модель с большими тестовыми данными?Что я должен сделать, чтобы достичь этого или это невозможно сделать?Любой совет будет оценен, спасибо!

Answer 1

Если я правильно понимаю ваш вопрос, после сохранения Обученной модели вместо запуска Модели на тестовых данных вы захотите использовать Вывод для прогнозирования для одного экземпляра.

Если мое понимание верно, да, это возможно.Пожалуйста, найдите приведенный ниже фрагмент кода для вывода.

pip install -q requests

import requests

headers = {"content-type": "application/json"}

json_response = requests.post('http://localhost:8501/v1/models/fashion_model:predict', data=data, headers=headers)

predictions = json.loads(json_response.text)['predictions']

show(0, 'The model thought this was a {} (class {}), and it was actually a {} (class {})'.format(
  class_names[np.argmax(predictions[0])], test_labels[0], class_names[np.argmax(predictions[0])], test_labels[0]))

Для более подробной информации, вы можете обратиться по ссылке, https://www.tensorflow.org/tfx/tutorials/serving/rest_simple#make_rest_requests