Простая библиотека для 2D будет openFrameworks . Это быстро настроить и использовать. Чтобы сделать ваше видео, вы можете вывести объекты на экран и сделать вывод с помощью программы, подобной Fraps.
Что касается 3D, то здесь нет простых фреймворков, которые позволили бы вам начать работу очень быстро. Один из вариантов будет Ogre3D , который относительно прост в использовании. Другим, конечно же, будет OpenGL, но для того, чтобы привыкнуть к чисто графической библиотеке, требуется довольно много времени. Что касается видео снова, запишите его, например, с помощью. Fraps.