Я пытаюсь изучить протокол Facetime и вижу, что он похож на H264 по RTP. Но я думаю, что есть что-то другое. Вы знаете что-нибудь о его спецификации?
Похоже, что на самом деле это H264 через SRTP, поэтому поток зашифрован. Я бы попробовал эту страницу:
http://theiphonewiki.com/wiki/index.php?title=FaceTime