В ваших комментариях вы упоминаете Magic Bullet от Red Giant Software. За созданием Magic Bullet накоплен впечатляющий опыт в области обработки изображений. Вероятно, вам будет проще реализовать хост-интерфейс для After Effects или плагинов Final Cut Pro и использовать Magic Bullet.
Если вы хотите увидеть некоторый исходный код в действии, изучите проекты с открытым исходным кодом, которые обрабатывают изображения, такие как GIMP, CinePaint, FreeFrame и т. Д.