Пока Apple публично не документирует эффект, и вы хотите избежать риска быть отклоненным из-за использования частных API, вам придется использовать свой собственный.
Предложением начать работу над этим будет использование шейдеров OpenGL ES.
Следующая запись блога включает демонстрационный патч Quartz Composer для создания эффекта Genie, как видно в OS X и iOS:
http://www.aderstedtsoftware.com/users/erik/weblog/c7cb9/
Хорошим началом для вашего шейдера OpenGL ES было бы использование кода в Genie Filter в этом файле QuartzComposer. Код можно почти скопировать в шейдер для OpenGL как есть. Вероятно, большая часть работы будет заключаться в интеграции OpenGL в ваше приложение: визуализация правильного вида текстуры OpenGL и наложение OpenGL поверх вашего приложения для выполнения анимации на основе вашего шейдера.