Как развернуть модель тензора в режиме реального времени в облаке?

Question

Как развернуть тензорную модель потока в облаке, которая может изучать и обновлять весовые коэффициенты при вводе в качестве входных данных. Поскольку большинство методов развертывания, которые я видел, включали зависание модели, что также подразумевало зависание весов. Возможно ли это или последний единственный путь?

Answer 1

Замораживание модели - это самая компактная форма, которая позволяет вам иметь меньший узел логического вывода, к которому вы можете обращаться только для предсказания, и у вас есть только необходимая информация для этого.

Если вы хотите иметь и моделировать, и сделать его доступным для обучения в Интернете, а также сделать вывод, что вы можете сделать так, чтобы в него был загружен весь график с самыми новыми весами. В целях безопасности время от времени сохраняйте вес. Конечно, у вас может быть две программы: одна для вывода с последней замороженной моделью, а другая - для подготовки к новой тренировке с использованием последних сохраненных весов. Я рекомендую вам второй вариант. Надеюсь, это поможет!