Тензор потока: настройка правил квантования

Question

Есть ли способ, которым следующий процесс: https://www.tensorflow.org/performance/quantization

И вызов: tf.contrib.quantize.create_eval_graph()

Может быть настроен таким образом, как это делает следующий вызов?

https://www.tensorflow.org/versions/master/api_docs/python/tf/quantize

Я бы хотел, чтобы веса были масштабированы до 8 бит с симметричными диапазонами, с точными 0 и макс / мин, равными степени 2, как в режиме SCALED .Например, я бы предпочел от -31 до 31 вместо от -10 до 30. Даже если от -10 до 30 даст лучшее разрешение на 8 битах, но точный 0, симметричность и диапазон, так как мощность 2 более важна для устройств DSP.

Answer 1

TOCO (tf.lite.TocoConverter) до сих пор не имеет возможности управлять типом квантования, поскольку вы фактически хотите симметричное квантование вместо асимметричного подхода.Тем не менее, реальное значение 0,0 гарантированно будет точным во время квантования.Это означает, что 0.0 отображается в uint8 q без ошибок округления.