Как развернуть модель тензорного потока на искре, чтобы сделать только вывод - PullRequest
0 голосов
/ 02 июля 2019

Я хочу развернуть большую модель, например, bert, на спарк, чтобы сделать вывод, так как мне не хватает gpus.Теперь у меня есть две проблемы.

  1. Я экспортирую модель в формат pb и загружаю модель, используя интерфейс SavedModelBundle.
SavedModelBundle bundle=SavedModelBundle.load("E:\\pb\\1561992264","serve");

Однако я не могу найтиспособ загрузить модель pb для пути файловой системы hdfs

Версия glibc среды искры не совместима с версией tenorflow, которую я обучил модели.Есть ли способ обойти это?

Я не уверен, что это хороший способ обслуживания модели с тензорным потоком на искре.Любые другие предложения приветствуются!

...