Звучит так, как будто ты получаешь z-бой.
"Z-боевые действия - это явление в 3D-рендеринге, которое возникает, когда два или более примитивов имеют одинаковые значения в z-буфере, и особенно распространено в копланарных многоугольниках. Этот эффект вызывает рендеринг псевдослучайных пикселей с цветом одного или другого многоугольника недетерминированным образом, варьируясь по мере анимации сцены, в результате чего один многоугольник "выигрывает" z-тест, затем другой и т. д. "
(Из википедии )
Более подробную информацию о проблеме можно получить в FAQ по OpenGL .
glPolygonOffset может помочь, но вы также можете столкнуться с проблемами. У Тома Форсайта хорошее объяснение в его FAQ Примечание. В нем говорится о ZBIAS, но это только эквивалент DirectX.