OpenGL - это API рендеринга, он просто рисует вещи на экране, и ничего более.Таким образом, вы не сможете обойтись без таких действий, как обнаружение столкновения на местности и тому подобное.
Если вы получили карту высот для текстуры (например, вы рисуете регулярную сетку xz с y, взятым из карты высот).Вы можете просто найти ячейку, в которой находится ваш мяч (или лучше треугольник, в котором находится шар из двух треугольников), и интерполировать соответствующие значения высоты, чтобы получить высоту ландшафта в позиции шара.