Если бы это был видеофайл, вам пришлось бы распаковать его, чтобы получить информацию о пикселях. Если вы не хотите выполнять анализ на уровне пикселей, вам, в основном, необходимо сделать снимок экрана или выполнить дамп на диск. Если вы можете сделать это, то у вас есть доступ к данным видеокадра, и вы можете начать с ними связываться.
Если вы работаете в Windows, я не могу вам помочь, но есть красивые инструменты, в которых вы можете графически поместить фильтр в какой-то момент в цепочке от вашего ТВ-тюнера до вашего диска.
Если вы используете Linux, пример захвата v4l2 - это то, что вам нужно.