То, что вы описываете, невозможно с OpenGL.
Тем не менее, учитывая, что вы новичок в OpenGL, может, то, что вы описываете, не совсем то, что вы ищете?
Смешивание - это шаг, который происходит после того, как вы решили, какой цвет должен иметь ваш текущий фрагмент (обычно исходящий из треугольника). Этот цвет должен быть объединен с предыдущим цветом в буфере кадра. Вы уверены, что это то, что вы ищете?