Посмотрите на этого игрока: https://github.com/bbcallen/ijkplayer
По сути, вам нужно создать интерфейс JNI для класса MediaPlayer (или, возможно, ExoPlayer в более новом Android, хотя я еще этого не делал).
Если вы посмотрите на ссылку репо, то увидите, что это нужно делать поверх ffplay больше, чем ffmpeg, поскольку первый - это игрок, а второй - инструмент декодирования / кодирования / упаковки.