Вы правы, mencoder использует ffmpeg. Mencoder на самом деле является универсальным интерфейсом для различных кодеков или библиотек кодеков, таких как ffmpeg. Таким образом, помимо ffmpeg, mencoder может быть скомпилирован с поддержкой x264, xvid, lame mp3 и других, которые я не использовал. Дело в том, что если у вас правильный бинарный файл mplayer / mencoder, вы получите поддержку гораздо большего количества кодеков, чем поддерживает ffmpeg (особенно те, которые имеют ограниченные лицензии). Кроме того, вы не потеряете ни одну из функций ffmpeg, используя mencoder, так как вы можете передать любую нужную опцию соответствующему кодеку ffmpeg. Поэтому я рекомендую mencoder.
Относительно вашего побочного вопроса, вы заявляете, какой кодек будет использоваться mencoder через переключатели командной строки ovc и oac. Попробуйте mencoder -ovc help и mencoder -oac help, чтобы увидеть, какие видео и аудио кодеки поддерживаются вашим двоичным файлом mencoder. Вы можете посмотреть здесь , чтобы узнать больше о видео / аудио кодеках. Это объясняет lavc (библиотека libavcodec из ffmpeg), xvid и mp3lame.
Помимо этого, я также использовал x264 с mencoder, что очень полезно, и я рекомендую получить двоичный файл с поддержкой этого кодека.