Я думаю, что это зависит от некоторых более глубоких технических требований вашей игры. Cocos2D великолепен, я использую его уже несколько месяцев, и мне не на что жаловаться.
Вы упомянули о функциях «дополненной реальности», которые, по моему мнению, используются камерой при наложении аннотаций на верхнюю часть дисплея камеры. Это правильно? Я мог видеть, что Cocos2D используется в качестве прозрачного наложения на дисплей камеры, где вы размечаете различные части дисплея. Без сомнения, было бы непросто убедиться, что ваши аннотации совпадают с тем, что показано на камере, но я думаю, что это можно сделать.
Лучше всего сделать быструю техническую демонстрацию и посмотреть, соответствует ли она вашим потребностям.