Во-первых, крупные организации, такие как Udemy, Coursera и Udacity, проектируют и разрабатывают собственный инструмент для кодирования видео для отображения в приложении. В Udacity, например, есть два режима - YouTube и собственный проигрыватель, которые пользователь может настроить в соответствии со своими предпочтениями.
Вы не можете разработать собственный кодек или проигрыватель в один миг, это требует большой самоотдачи и дополнительной работы, которую один человек не может развить за несколько дней.
Для вашего запроса вы можете использовать ExoPlayer, YouTube Embed, Vimeo Player, связанные виды открытого исходного кода или общедоступные плееры.