Модель PyTorch для C ++

Question

Я обучил алгоритм обнаружения и сохранил свою лучшую модель. Теперь я хочу преобразовать свою модель (предварительно подготовленную) в C ++ и использовать ее в своем приложении. Я хотел знать, каковы возможные способы преобразования модели PyTorch в C ++?

Спасибо!

Answer 1

• Вы можете использовать TorchScript промежуточное представление модели PyTorch с помощью трассировки и сценариев, которые можно запускать в среде C ++. Для этого вам, вероятно, придется изменить саму модель, чтобы ее можно было отслеживать или создавать сценарии.

• Вы можете использовать ONNX (Open Neural Сетевой обмен), с помощью которого вы можете экспортировать свою модель и загрузить ее в другую среду C ++, например, Caffe. Это имеет свои собственные значения.

• Самый простой - это попробовать Embedding Python, с помощью которого вы можете запустить свою модель python (pytorch) в C ++ окружающая обстановка. Обратите внимание, что модель все еще будет работать в python, но только через C ++, поэтому не будет никакого увеличения скорости, которого вы могли бы ожидать в C ++.

Кроме того, с выпуск torchvision 0.5 , все модели в torchvision имеют встроенную поддержку TorchScript и ONNX.