Можно ли использовать входной слой INT8 для тензорного? - PullRequest
0 голосов
/ 23 марта 2020

Я хочу, чтобы входной слой представлял собой 8-битное целое число, чтобы избежать преобразования int-> float на CPU:

        ITensor* data = network->addInput(
                m_InputBlobName.c_str(), nvinfer1::DataType::kINT8,
                DimsCHW{static_cast<int>(m_InputC), static_cast<int>(m_InputH),
                        static_cast<int>(m_InputW)});

, но при этом выдается следующее сообщение об ошибке:

[E] [TRT] Parameter check failed at: ../builder/Network.cpp::addInput::466, condition: type != DataType::kINT8

Is возможно ли заставить его работать, или INT8 предназначен только для приблизительных расчетов?

...