Я хочу реализовать обнаружение видеообъектов в реальном времени, когда потоки видеокадров поступают в обслуживающую систему обнаружения. Я рассматриваю два способа реализации системы: (1) использование тензорной обслуживающей системы TF, обслуживающей , (2) использование тензорного потока session.run (). Мне было интересно, какая реализация лучше подходит для следующего сценария?
Видеопотоки поступают в систему обнаружения в произвольное время. Каждый видеопоток длится какое-то время.
система должна поддерживать параллельные процессы обнаружения видеообъектов в режиме реального времени. Но узлы графического процессора ограничены, что означает, что на одном графическом процессоре могут одновременно выполняться несколько процессов обнаружения.
- Для обнаружения можно использовать несколько моделей DNN. когда новый видеопоток только что прибыл, для вывода выбирается одна из моделей DNN. Желательно, чтобы система обнаружения могла изменить решение о выборе модели на лету.
- система может установить распределение ресурсов (максимальное использование графического процессора) для каждой обслуживающей модели.
Спасибо!