Я новичок ie для pytorch. В моем проекте мы хотели бы использовать несколько графических процессоров в многопоточной программе C ++.
Например, на компьютере 4 графических процессора, моя программа создаст 4 потока, каждый поток использует один графический процессор: поток 0 использовать GPU 0, поток 1 использовать GPU 1 и так далее. Разные модели будут загружены в разные потоки.
Это правильное решение, которое передает идентификатор GPU потоку в качестве параметра и вызывает интерфейс Pytorch cuda.set_device в функции потока? Например, передать 0 GPU в поток 0, 1 GPU в поток 1?
Моя версия pytorch - 1.1.