Я пытаюсь следовать этому руководству относительно выбора мыши в OpenGL, но мне не удается заставить его работать должным образом.
В моем базовом понимании, чтобы получить координаты мирового пространства из координат мыши, мне нужно было бы умножить набор обратных матриц.Затем, чтобы получить координаты мирового пространства из локального пространства, я бы умножил координаты локального пространства на матрицу модели.Но полученные координаты не совпадают друг с другом.
Я пытался нормализовать мировые координаты для модели, потому что координаты мыши также нормализованы, но я не уверен, так ли это.
if (instance && button == GLFW_MOUSE_BUTTON_LEFT
&& action == GLFW_PRESS) {
glfwGetCursorPos(window, &x, &y);
pMat = instance->graphics->getPMat();
cameraPos = instance->graphics->getCameraPos();
//View matrix
vMat = glm::translate(glm::mat4(1.0f), glm::vec3(cameraPos.x, cameraPos.y, -cameraPos.z));
//vMat = glm::rotate(vMat, 0.6f, glm::vec3(1.0f, 0.0f, 0.0f));
//normalized mouse coordinates
x = (2.0f * x) / width - 1.0f;
y = 1.0 - (2.0f * y) / height;
glm::vec3 ray_nds = glm::vec3(x, y, 1.0f);
glm::vec4 ray_clip = glm::vec4(ray_nds.x, ray_nds.y, -1.0, 1.0);
glm::vec4 ray_eye = glm::inverse(pMat) * ray_clip;
ray_eye = glm::vec4(ray_eye.x, ray_eye.y, -1.0, 0.0f);
glm::vec3 ray_wor = glm::vec4(glm::inverse(vMat) * ray_eye);
ray_wor = glm::normalize(ray_wor);
Entity* e = instance->getCurrentScene().getEntities()[0];
sMat = glm::scale(glm::mat4(1.0f), glm::vec3(e->getScaleX(), e->getScaleY(), e->getScaleZ()));
tMat = glm::translate(glm::mat4(1.0f), glm::vec3(e->getX(), e->getY(), e->getZ()));
rMat = glm::rotate(glm::mat4(1.0f), e->getRotY(), glm::vec3(0.0f, 1.0f, 0.0f));
rMat = glm::rotate(rMat, e->getRotX(), glm::vec3(1.0f, 0.0f, 0.0f));
rMat = glm::rotate(rMat, e->getRotZ(), glm::vec3(0.0f, 0.0f, 1.0f));
mMat = tMat * rMat * sMat;
mvMat = vMat * mMat;
startCoords = mMat * glm::vec4(0.0f, 0.0f, 0.0f, 1.0f);
startCoords = glm::normalize(startCoords);
endCoords = mMat * glm::vec4(1.0f, -1.0f, 1.0f, 1.0f);
endCoords = glm::normalize(endCoords);
if (ray_wor.x >= startCoords.x
&& ray_wor.y <= startCoords.y
&& ray_wor.x <= endCoords.x
&& ray_wor.y >= endCoords.y) {
std::cout << "\nFound!\n";
}
std::cout << "x: " << ray_wor.x << "\n"
<< "y: " << ray_wor.y << "\n"
<< "z: " << ray_wor.z << "\n\n";
std::cout << "x: " << endCoords.x << "\n"
<< "y: " << endCoords.y << "\n"
<< "z: " << endCoords.z << "\n\n";
std::cout << "x: " << startCoords.x << "\n"
<< "y: " << startCoords.y << "\n"
<< "z: " << startCoords.z << "\n\n";
}