Попытка использовать Universal Sentence Encoder Lite / 2 с помощью Tensorflow Serving - PullRequest
0 голосов
/ 23 октября 2018

Я создал SavedModel, используя версию Universal Sentence Encoder Lite.Если я загружаю SavedModel с помощью tf.saved_model.loader.load, он прекрасно работает.

Однако, если я пытаюсь обслуживать модель с помощью Tensorflow Serving, я получаю следующую ошибку:

"ошибка": "индексы [3] = 1 отсутствуют в [0, 1) \ n \ t [[узел: lite_module_apply_default / Encoder_en / KonaTransformer / ClipToMaxLength / GatherV2_1 = GatherV2 [Taxis = DT_INT32, Tindices =DT_INT64, Tparams = DT_INT64, _output_shapes = [[?]], _Device = "/ job: localhost / replica: 0 / task: 0 / device: CPU: 0"] (_ arg_qsph_v_0_7, lite_module_apply_default / Encoder_en / KonaToShampformer / Clip / TransformerLemp)lite_module_apply_default_1 / Encoder_en / KonaTransformer / SequenceMask / Const)]] "

Любые причины, по которым это может происходить?

версия python: 3.6

версия тензорного потока: 1.9.0

Версия tennsflow_hub: 0.1.1

Использование средства загрузки тензор-потока / обслуживания 1.11

1 Ответ

0 голосов
/ 17 июня 2019

Я давал входные тензоры в формате строки .Изменив формат входных тензоров на столбчатый формат , я смог устранить проблему.Подробное описание форматов строк и столбцов можно найти здесь .

...