Если вы заинтересованы в коммерческом программировании 3D-игр, я бы порекомендовал вам взглянуть на http://unity3d.com. Это упрощает множество проблем, и вы можете начать играть с бесплатной версией.
Если вы заинтересованы в понимании основ 3D-программирования в iPhone, вы можете начать с Руководства по программированию OpenGL ES (либо версия 2.0 для iPhone 4, либо версия 1.x для 3G / GS).
Еще одна книга, которая кажется хорошей: Программирование на iPhone 3D: разработка графических приложений с OpenGL ES , хотя я еще не читал ее.