Попробуйте Хаффюв . Это кодек без потерь, который может хорошо работать с тем видео, о котором вы говорите. Поскольку размер файла без потерь, размер файла может быть намного больше, но его стоит попробовать. То, что вы описываете (меньше цветов и деталей, чем в естественной сцене), может быть приемлемо сжато.
Проблема с геометрией и мультфильмами заключается в том, что Mpeg 1/2/4, VP3, Theora, MJPEG и т. П. Используют подвыбор цветности и компенсацию движения на основе блоков с 8x8 блоками DCT , так же, как JPEG. Это работает хорошо для большого количества цветов и движения; наш мозг заполняет разницу, пока кабельная коробка не замерзнет, и мы не увидим блоки. Он плохо работает с вещами с большим количеством линий и меньшим количеством цветов.