Это не исчерпывающий ответ, но он должен быть полезным.Вы делаете RTT, Render to Texture.Вы собираетесь установить новый рендер-буфер, установить его в качестве цели рендеринга, а затем использовать glGetPixels, чтобы получить его значение.Когда вы делаете рендер-буфер с помощью:
void glRenderbufferStorage(GLenum target, GLenum internalformat, GLsizei width, GLsizei height);
Вы можете установить его размер, который не должен соответствовать размеру вашего экрана.Надеюсь, это поможет!