Я использовал gstreamer + opencv для декодирования 12 многопотоковых IP-камер с разрешением 480p5. Время предопределения модели в nano составляет 100 мс и 130 мс для batch_size = 1 и batch_size = 2. Я использовал темы для декодирования H264 HW. и я хочу знать, как справиться с этой проблемой для 12 камер одновременно? Хочу узнать, в демоверсии Nvidia показано 8 потоков 1080p30, обрабатываемых одновременно, как они справляются с этой задачей. Я предполагаю, что они не подают входные данные из 8 потоков в модель одновременно, верно? Я думаю, что они подают первые две камеры как batch_size = 2, а затем подают на модель, а затем вторые две камеры для моделирования как последовательные и так далее, верно? если это так, предположим, что они подают каждую из двух камер на модель в одно и то же время, а также декодируют 8 потоков одновременно, поэтому, если мы подадим первые две камеры в модель во время T1, кадры остальных камер (т. е. 3- 8) Отклонено ли время Т1 для обработки?