Как многопоточность в ONNX Runtime? - PullRequest
1 голос
/ 18 апреля 2020

Использование ONNX Runtime для выполнения вывода на моделях глубокого обучения. Допустим, у меня есть 4 разные модели, каждая со своим входным изображением, могу ли я запустить их параллельно в 4 потока? Будет ли одна «среда», а затем 4 сеанса (в той же среде)?

...