Упомянутые вами признаки указывают на проблему в драйвере AJA Kona3G (на самом деле, даже не драйвер как таковой , но его интеграция с DirectShow реализована в виде пользовательского фильтра AJA DirectShow).
Система имеет эту интеграцию, но она либо неработоспособна, либо устарела, поэтому вы видите проблему API DirectShow, исходящую от стороннего компонента и пересылаемую в FFmpeg.
Вам необходимо иметь AJA-материал переустановить и / или обратиться в службу поддержки для решения.
Это на самом деле не вопрос программирования.