Если вы хотите увидеть, находится ли точка между двумя другими точками, первое решение, которое пришло мне в голову, выглядит следующим образом:
Представьте, что у вас есть треугольник (точка интереса и две конечные точки). Если гипотенуза представлена двумя конечными точками, вы можете получить два угла, которые она составляет с вашей точкой интереса. Если оба угла <= 90 градусов, то точка находится между ними, если нет, то это не так. </p>
Надеюсь, это понятно.