Если карта нарисована в 2D на экране с без перспективы , то для определения выбранного тайла должна быть просто базовая математика, основанная на ширине тайла и его переводе.
Например, вы можете сделать что-то вроде:
int selectedTileX = (translatedX + mouseX) / tileWidth;
int selectedTileY = (translatedY + mouseY) / tileHeight;
Однако это зависит от вашего двигателя.
Если оно нарисовано с перспективой ,тогда вы можете использовать gluUnProject , чтобы получить координаты объекта из оконных координат (или вы можете имитировать эту функцию с помощью своей собственной).