Это очень открытая проблема. Кодирование видео - это всегда компромисс между временем и качеством. Чтобы получить более конкретный ответ, вам нужно быть более точным в отношении спецификаций, которые вы пытаетесь достичь, и используемого вами видеокодека.
Если вы используете, например, x264 для кодирования видео H.264, вы можете попробовать одну из предустановленных настроек кодирования, чтобы посмотреть, подходит ли она вам лучше.
пример,
ffmpeg -i <исходный файл> -vcodec libx264 -preset superfast <файл файла>
Конечно, существует множество других опций, с которыми можно настроить x264 (-x264opts), и, вероятно, столько же параметров для других видеокодеков.
Если вы используете libavcodec вручную, вы также можете применить различные параметры кодирования с соответствующими настройками в контексте кодирования.