TF-Lite-Converter с удлиненным трубопроводом Tensorflow (пример трубопровода Chicago Taxi) - PullRequest
0 голосов
/ 26 марта 2019

Цель: TFX -> Конвертер TF Lite -> Развертывание моделей на мобильных устройствах / IoT

В настоящее время я изучаю Tensorflow Extended с его Пример трубопровода такси Чикаго .Конвейер работает (хотя и через много трудностей), и компонент Pusher выпустил файл Tensorflow SavedModel (.pb).

Однако новыйздесь возникает проблема: с помощью Tensorflow nightly / 1.13.1 (пробовал оба) и Python 2.7.6 я могу сгенерировать, сохранить и загрузить SavedModel (модель для сбора цифр mnist для тестирования утилиты) снекоторый простой код на Python, такой как saved_model.simple_save и saved_model.loader.load, но я продолжаю сталкиваться с ошибками при применении к моделям, которые TFX Pusher испускает, следующим образом.

(Может быть, я сделалчто-то не так с TFX Pipeline?)

Код, который я использовал:

import tensorflow as tf
with tf.Session(graph=tf.Graph()) as sess:
    tf.compat.v1.saved_model.loader.load(sess, ["serve"], "/home/tigerpaws/taxi/serving_model/taxi_simple/1553187887")#"/home/tigerpaws/saved_model_example/model")
    graph=tf.get_default_graph()

Ошибка:

KeyError                                  Traceback (most recent call last)
<ipython-input-11-a6978b82c3d2> in <module>()
      1 with tf.Session(graph=tf.Graph()) as sess:
----> 2     tf.compat.v1.saved_model.loader.load(sess, ["serve"], "/home/tigerpaws/taxi/serving_model/taxi_simple/1553187887")#"/home/tigerpaws/saved_model_example/model")
      3     graph=tf.get_default_graph()

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/util/deprecation.pyc in new_func(*args, **kwargs)
    322               'in a future version' if date is None else ('after %s' % date),
    323               instructions)
--> 324       return func(*args, **kwargs)
    325     return tf_decorator.make_decorator(
    326         func, new_func, 'deprecated',

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/saved_model/loader_impl.pyc in load(sess, tags, export_dir, import_scope, **saver_kwargs)
    267   """
    268   loader = SavedModelLoader(export_dir)
--> 269   return loader.load(sess, tags, import_scope, **saver_kwargs)
    270 
    271 

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/saved_model/loader_impl.pyc in load(self, sess, tags, import_scope, **saver_kwargs)
    418     with sess.graph.as_default():
    419       saver, _ = self.load_graph(sess.graph, tags, import_scope,
--> 420                                  **saver_kwargs)
    421       self.restore_variables(sess, saver, import_scope)
    422       self.run_init_ops(sess, tags, import_scope)

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/saved_model/loader_impl.pyc in load_graph(self, graph, tags, import_scope, **saver_kwargs)
    348     with graph.as_default():
    349       return tf_saver._import_meta_graph_with_return_elements(  # pylint: disable=protected-access
--> 350           meta_graph_def, import_scope=import_scope, **saver_kwargs)
    351 
    352   def restore_variables(self, sess, saver, import_scope=None):

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/training/saver.pyc in _import_meta_graph_with_return_elements(meta_graph_or_file, clear_devices, import_scope, return_elements, **kwargs)
   1455           import_scope=import_scope,
   1456           return_elements=return_elements,
-> 1457           **kwargs))
   1458 
   1459   saver = _create_saver_from_imported_meta_graph(

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/framework/meta_graph.pyc in import_scoped_meta_graph_with_return_elements(meta_graph_or_file, clear_devices, graph, import_scope, input_map, unbound_inputs_col_name, restore_collections_predicate, return_elements)
    804         input_map=input_map,
    805         producer_op_list=producer_op_list,
--> 806         return_elements=return_elements)
    807 
    808     # Restores all the other collections.

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/util/deprecation.pyc in new_func(*args, **kwargs)
    505                 'in a future version' if date is None else ('after %s' % date),
    506                 instructions)
--> 507       return func(*args, **kwargs)
    508 
    509     doc = _add_deprecated_arg_notice_to_docstring(

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/framework/importer.pyc in import_graph_def(graph_def, input_map, return_elements, name, op_dict, producer_op_list)
    397   if producer_op_list is not None:
    398     # TODO(skyewm): make a copy of graph_def so we're not mutating the argument?
--> 399     _RemoveDefaultAttrs(op_dict, producer_op_list, graph_def)
    400 
    401   graph = ops.get_default_graph()

/home/tigerpaws/anaconda/lib/python2.7/site-packages/tensorflow/python/framework/importer.pyc in _RemoveDefaultAttrs(op_dict, producer_op_list, graph_def)
    157     # Remove any default attr values that aren't in op_def.
    158     if node.op in producer_op_dict:
--> 159       op_def = op_dict[node.op]
    160       producer_op_def = producer_op_dict[node.op]
    161       # We make a copy of node.attr to iterate through since we may modify

KeyError: u'BucketizeWithInputBoundaries'

Была также другая попытка, где я пытался преобразовать SavedModel в GraphDef (Frozen Graph) , чтобы я мог попробовать конвертер еще раз.Для преобразования понадобится output_node_names, чего я не знаю;Также я не смог найти, где модель сохранена в коде (так что, возможно, я смогу где-нибудь определить имена выходных узлов).

Есть какие-нибудь идеи по поводу проблемы или альтернативных путей?Заранее спасибо.

Редактировать: Может кто-нибудь помочь создать теги?Я не набрал 1500 репутации, но этот вопрос действительно о tfx / tensorflow-extended

1 Ответ

0 голосов
/ 25 мая 2019

Извините за путаницу, вызванную; проблема на самом деле вызвана чтением файла SavedModel.

В SavedModel есть операция BucketizeWithInputBoundaries, которая не определена в op_dict.

Это все еще в списке Google TODO, прокомментированном в двух их сценариях.

Здесь и Здесь . (Ссылки на Github):

# TODO(jyzhao): BucketizeWithInputBoundaries error without this.

После импорта указанного скрипта эта проблема решена.

from tensorflow.contrib.boosted_trees.python.ops import quantile_ops  # pylint: disable=unused-import
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...