Если я правильно читаю ваш вопрос, вам нужно что-то, что возвращает результат произведения матрицы на вектор между текущей матрицей ModelView / Projection и указанным вектором.
В этом случае OpenGL не может выполнить умножение за вас. Вместо этого вам нужно извлечь текущую матрицу и выполнить умножение самостоятельно:
import numpy as np
someVector = np.array([2,3,4,5])
glMatrixMode(GL_MODELVIEW)
glMultMatrix(...)
modelViewMatrix = glGetDoublev(GL_MODELVIEW_MATRIX)
result = np.dot(modelViewMatrix, someVector)
В зависимости от того, что вы пытаетесь сделать, вам может потребоваться получить матрицы ModelView и Projection и сначала умножить их.