Упаковка моделей tenorflow в виде файлов колес

Question

Я создал свою модель тензорного потока, которая будет действовать как подача.Код будет размещен на локальном сервере клиента.Я не хочу давать им свой код, но дать им файл колеса.Но после последующего распространения пакета в python мои файлы тензорного потока повреждены.

Answer 1

TensorFlow имеет свои собственные API для обслуживания, это TensorFlow TFX Serving . Вы можете проверить эту замечательную статью на нем.

Как уже упоминалось на их сайте,

TensorFlow Serving позволяет легко развертывать новые алгоритмы и эксперименты, сохраняя ту же архитектуру сервера и API. TensorFlow Serving обеспечивает готовую интеграцию с TensorFlow модели, но могут быть легко расширены для обслуживания других типов моделей и данные.

Вы можете использовать RESTful API, как указано здесь .

Вы можете узнать больше из этих статей:

https://medium.com/@zhanwenchen/deploy-a-trained-rnn-lstm-model-with-tensorflow-serving-and-flask-part-1-introduction-and-336dbb8f02f

https://towardsdatascience.com/deploy-your-machine-learning-models-with-tensorflow-serving-and-kubernetes-9d9e78e569db

Использование RESTful API →

https://medium.com/@yuu.ishikawa/introduction-to-restful-api-with-tensorflow-serving-9c60969b5b95

https://becominghuman.ai/creating-restful-api-to-tensorflow-models-c5c57b692c10

Answer 2

Вы можете отправить только замороженный граф вывода в формате .pb.