Кинатизация тензорного потока - что означает нулевая точка - PullRequest
0 голосов
/ 24 октября 2019

Я пытаюсь понять квантование в тензорном потоке, и я следую этому уроку.

https://heartbeat.fritz.ai/8-bit-quantization-and-tensorflow-lite-speeding-up-mobile-inference-with-low-precision-a882dfcafbbd

В уроке говорится, что уравнение квантования:

enter image description here

  • r - это действительное значение (обычно float32)
  • q - его квантованное представление как B-разрядное целое число (uint8, uint32,и т. д.)
  • S (float32) и z (uint) - это факторы, с помощью которых мы масштабируем и сдвигаем числовую линию. z - это квантованная «нулевая точка», которая всегда будет отображаться точно в 0.f.

Я изо всех сил пытаюсь понять значение нулевой точки и надеюсь, что кто-нибудь сможет объяснить это на примере?

...