Онлайн-прогнозы для модели Keras через API

Question

У меня есть модель глубокого изучения классификации CNN по классификации изображений (файл .h5), обученная с использованием Keras и Tensorflow 2, которую я хочу использовать онлайн для прогнозов. Мне нужен API, который принимает одно входное изображение по HTTP и отвечает предсказанными метками классов, используя обученную модель. Есть ли API, предоставленный Keras или Tensorflow, чтобы сделать то же самое?

Answer 1

Существует два основных варианта c:

• Использование Обслуживание TensorFlow - он предоставляет готовый к go REST API-сервер, единственное, что вам нужно преобразовать вашу модель в формат .pb.

• Напишите свой собственный простой REST-сервер (например, на Flask), который будет вызывать model.predict() на входах (этот подход может быть легче начать, но его будет трудно масштабировать / оптимизировать для большой нагрузки.