Вы не можете получить данные изображения из OpenCV напрямую с IP-камер. Вам нужно получить доступ к необработанным данным через Pylon API (get char* data), а затем скопировать в iplimage -> imageData.
Тогда вы можете захватить каждый кадр с OpenCV, но не используйте ffmpeg, попробуйте VideoForWindows (vfw), это проще в использовании и дает меньше проблем с OpenCV.
Ошибка, которую вы получаете из-за некоторых проблем ffmpeg, пытающихся найти выбранный вами кодек, или неправильной конфигурации.