как получить вершину треугольника после поворота
Какой? Треугольник имеет 3 вершины (отсюда три -)
я знал, что есть функция glFloatv
Нет, нет. Может быть, вы путаете это с glGetFloatvf . Однако функции glGet… предназначены для извлечения переменных состояния OpenGL без обратной связи с преобразованием.
Если вам нужно обработать только руку, полную треугольников, используйте gluProject