Можно ли использовать mencoder вместо ffmpeg?Если да, я бы предложил следующее:
mencoder input.avi -sub subtitles.sub -ovc lavc -oac copy -o output.mp4
Для ffmpeg вы также можете попробовать следующую команду, хотя я не могу гарантировать, что она действительно работает:
ffmpeg -i inputfile.avi -i subtitlefile.srt outputfile.avi -newsubtitle