Я бы начал с avisynth , это простой язык сценариев для видео и может использовать avidemux для интерактивного редактирования видео или x264 и ffmpeg для автоматического чтения / записи файлов.
редактирование:
см http://forum.videohelp.com/threads/184560-AviSynth-Chroma-Key
Интерпретатор avisynth загружает сам ваш файл, а затем выплевывает обработанные кадры. Если вы запустите сценарий с прокси-сервером avisynth (входит в состав avidemux), проигрыватели, такие как avidemux, могут подключиться к прокси-серверу, как если бы они открывали файл и воспроизводили обработанное видео.
Кодек H264 командной строки x264 также может запускать сценарии avisynth, вы просто указываете сценарий в качестве входного имени файла (помните, что исходный файл находится внутри сценария), и он выводит обработанный, а затем H264. закодированный файл в mp4
учебники имеют больше смысла, чем я .......