Используются ли в двух случаях (перекрывающихся и не перекрывающихся) одинаковый набор фигур? Потому что, если перекрывающийся случай включает в себя общую площадь всех ваших фигур, которая больше, чем в первом случае, то ожидается, что он будет медленнее. Если это тот же набор фигур, который замедляется, если некоторые из них перекрываются, то это было бы очень необычно и не должно происходить в любой стандартной аппаратной реализации OpenGL (какую платформу вы используете?). Отбраковка задней поверхности не вызовет никаких проблем.
Всякий раз, когда фигура рисуется, графический процессор должен выполнять некоторую работу для каждого пикселя, который он покрывает на экране. Если вы рисуете одну и ту же фигуру 100 раз в одном и том же месте, то это в 100 раз больше, чем пиксель. Буферизация глубины может уменьшить некоторые дополнительные затраты на непрозрачные объекты, если вы рисуете объекты в отсортированном по глубине порядке, но этот прием не может работать с вещами, которые используют прозрачность.
При использовании прозрачности имеет значение сумма площади каждой отображаемой фигуры. Не размер экрана, который покрыт после того, как все отрендерено.