В этом учебном пособии указано, что оно устарело. Действительно, API FFmpeg развивались с тех пор, как это было написано. В git HEAD FFmpeg на момент написания этой статьи общедоступными функциями для декодирования видео и аудио являются avcodec_decode_video2 () и avcodec_decode_audio4 () соответственно.
Вы написали, что пытались заменить avcodec_decode_audio3 () на avcodec_decode_video (). Это не сработает, потому что одна функция предназначена для декодирования аудио, а другая - для видео. Предполагая, что вы используете последнюю версию FFmpeg, попробуйте использовать avcodec_decode_video2 () для декодирования видео. Кроме того, посмотрите в doc / examples в исходном дереве FFmpeg примеры, которые должны быть более современными.