Что означает «квантование» в interpreter.get_input_details ()? - PullRequest
0 голосов
/ 22 февраля 2019

Использование tflite и получение свойств интерпретатора, таких как:

print(interpreter.get_input_details())

[{'name': 'input_1_1', 'index': 47, 'shape': array([  1, 128, 128,   3], dtype=int32), 'dtype': <class 'numpy.uint8'>, 'quantization': (0.003921568859368563, 0)}]

Что означает 'quantization': (0.003921568859368563, 0)?

1 Ответ

0 голосов
/ 27 февраля 2019

Это означает значения параметров квантования: масштаб и нулевую точку входного тензора.

Это необходимо для преобразования квантованного числа uint8 q в число с плавающей запятой f по формуле:

f = (q - zero_point) * scale
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...