преобразовать последовательную модель кераса в тензорный рт - PullRequest
Новая
       14

преобразовать последовательную модель кераса в тензорный рт

0 голосов
/ 24 января 2020

Как преобразовать последовательную модель keras в тензор-rt? Я работаю над распознаванием лиц, я создал модель, используя последовательную модель keras для кодирования лица. Теперь я хочу реализовать это на jtson xavier. Это модель архитектуры: 

    def Simple_NeuralNet(number_classes):
        model = Sequential()
        model.add(Dense(units=256, activation='relu', input_dim=128))
        model.add(BatchNormalization())
        model.add(Dense(units=1024, activation='relu'))
        model.add(Dropout(0.5))
        model.add(Dense(units=512, activation='relu'))
        model.add(BatchNormalization())
        model.add(Dense(units=number_classes, activation='softmax'))
        return model

1 Ответ

1 голос
/ 26 января 2020

Оформление заказа tf2onnx (https://github.com/onnx/tensorflow-onnx) или keras2onnx (https://github.com/onnx/keras-onnx) для преобразования вашей модели в формат ONNX. В этом посте есть еще некоторые подробности о преобразовании в ONNX: { ссылка }.

Тогда вы сможете быстро проверить свою модель, используя: 

trtexec --onnx=model.onnx

или API TensorRT для преобразования вашей модели в TensorRT 6.0 (Jetson).

При использовании TensorRT 7.0 обязательно добавьте флаг --licitBatch в trtexe c или NetworkDefinitionCreationFlag.EXPLICIT_BATCH при использовании API: 

trtexec --explicitBatch --onnx=model.onnx

Релиз TensorRT поставляется с некоторыми примерами для C ++ и Python, в которых показано, как преобразовать модель ONNX в TensorRT с помощью API. Образцы можно найти в TRT_RELEASE_DIR / samples.

...