Разве вы не можете просто программно выполнить
ffmpeg -i filename -dframes 0 -vn -aframes 0 dummy.avi
и прочитать вывод и посмотреть, не написано ли в конце «Неподдерживаемый кодек» или что-то подобное?
Это кодирует ноль аудиокадры и ничего больше в пустышку.На самом деле вам, возможно, придется немного подправить параметры, потому что я не уверен, будет ли это проверять, поддерживается ли видеокодек.