Обработка данных при использовании тензорного потока (Docker / Kubernetes)

Question

Я хочу разместить 5 моделей глубокого обучения, где требуется предварительная / постобработка данных.

Кажется простым разместить каждую модель, используя обслуживание TF (и Kubernetes для управления контейнерами), но если этоВ каком случае должны осуществляться предварительная и последующая обработка данных?

Answer 1

Дополнительные опции для ответа Джозефкиба:

1. Реализация обработки в самой модели (см. Подписи для моделей keras и входные приемники для оценок в Руководство SavedModel ),

2. Установка Селдон-ядро . Это целая платформа для обслуживания, которая обрабатывает создание изображений и создание сетей. Он строит сервис в виде графа модулей с различными API, один из них - преобразователи, которые обрабатывают данные до / после обработки.

Answer 2

Я не уверен, что есть один однозначный ответ на этот вопрос, но мне повезло, что я развернул модели в масштабе, связывая код предварительной и последующей обработки данных в довольно ванильные приложения Go или Python (например, Flask)которые подключены к моему постоянному хранилищу для других операций.

Например, чтобы взять пример рекомендации фильма, на прогнозируемом маршруте довольно эффективно вытащить 100 фильмов, которые пользователь просмотрел, из базы данных, сбросить их вмассив NumPy соответствующего размера и кодировки, отправьте его в обслуживающий контейнер TensorFlow, а затем выполните минимальную последующую обработку (например, извлеките имя фильма, описание, приведенное из другой части уровня постоянного хранения) перед возвратом.