Не существует настройки сжатия "один размер подходит всем".Существует много факторов, и технически спецификации определяют только битовый поток, поэтому два разных кодера с «одинаковыми» настройками могут генерировать различное качество вывода.Part Art (зная, какие настройки работают с каким типом контента).
Вам действительно нужно просто поиграть с настройками и выбрать желаемый результат.