Трубопровод Kubeflow в обслуживающей модели

Question

Я начинаю копаться в конвейерах kubeflow для проекта и у меня есть вопрос новичка. Кажется, что конвейеры kubeflow хорошо работают для обучения, но как насчет обслуживания в производстве?

У меня довольно интенсивный конвейер предварительной обработки для обучения, и я должен применить тот же конвейер для прогнозов добычи. Могу ли я использовать что-то вроде Seldon Serving для создания конечной точки, чтобы запустить конвейер предварительной обработки, применить модель, а затем вернуть прогноз? Или лучше всего поместить все в один контейнер докера?

Answer 1

Да, вы определенно можете использовать Селдона для сервировки.На самом деле, команда Kubeflow предлагает простой способ связи между обучением и обслуживанием: обтекатель

Обтекание обеспечивает программный способ развертывания конечной точки прогнозирования.Вы также можете взглянуть на этот пример о том, как развернуть конечную точку Seldon с вашим результатом обучения.