Убедитесь, что это возвращает что-то большее, чем 8528 в вашей реализации OpenGL:
GLint texSize;
glGetIntegerv(GL_MAX_TEXTURE_SIZE, &texSize);
Если этого не произойдет, вам придется прибегнуть к какой-либо системе мозаичного рендеринга, чтобы вы могли разместить все данные вашего изображения в текстурах меньше максимального размера.