Для конкретного случая пятиконечной звезды предложение Аарона об использовании треугольного веера с базовой вершиной в центре прекрасно работает! Обратите внимание, что звезда - это вогнутый многоугольник; GL_POLYGON может отображать только выпуклый многоугольник.
Существует ряд универсальных решений для вогнутых многоугольников. Одним из них является просто тесселяция поли в треугольники на процессоре; Вы можете использовать функцию gluTessBeginPolygon для этого, если вы используете GLU. Если вы хотите избежать ссылок в библиотеке GLU, вы можете найти ее источник в Интернете и извлечь соответствующие фрагменты.
Красная книга также описывает интересный трюк для быстрого рисования вогнутых полигонов с использованием буфера трафарета и простого старого веерного треугольника. Техника трафарета действительно приятна, но она может быть более изящной, чем то, что вам действительно нужно.