Согласно этому ответу на форуме VLC VLCKit не поддерживает сборку мусора в данный момент: Пост в форуме VLC
Что касается компиляции VLCKit в целом, попробуйте следующее:
git clone git://git.videolan.org/vlc/vlc-1.1.git vlc-1.1
cd vlc-1.1/projects/macosx/framework
xcodebuild -alltargets -configuration Release -project VLCKit.xcodeproj ARCHS="x86_64" -sdk macosx10.6
Вам особенно нужна ветка vlc-1.1.git, которая кажется стабильным вариантом.Это все написано в этом сообщении , на которое я ссылался выше.