Схема квантования для сверточной нейронной сети 8-битного квантования в тензорном потоке

Question

Код тензорного потока для квантования Из всех папок, на которые я ссылался для квантования CNN, схема квантования определяется как

размер шага = диапазон / 255 для 8-битного здесь диапазон = xmax- xmin, но, как показано на рисунке в реализации тензорного потока,

диапазон задается в виде range = std :: max (std :: abs (* min_value), std :: abs (* max_value));

МОЖЕТ ЛЮБОЙ СКАЗАТЬ МНЕ РАЗНИЦУ ИЛИ ЦЕЛЬ

Answer 1

Это потому, что код, на который вы указываете, предназначен для симметричного c квантования, где диапазон должен быть одинаковым с обеих сторон от 0. Таким образом, переменная "range" в этом коде действительно ссылается на половину всего плавающего диапазон точек.

, например, min_value = -1 max_value = 2

range = std :: max (abs (-1), abs (2)) = 2

Таким образом, весь диапазон в этом коде будет от -2 до 2.

Надеюсь, это имеет смысл!