Есть много вещей, которые необходимо учитывать, например: платформа, скорость кодирования, какие требования будут удовлетворять ваши клиенты (с точки зрения кодеков), компромисс между качеством и размером. Взгляните на xvid . Это бесплатный видеокодек MPEG-4 для ПК.