Предположим, что ваши 3 точки: P1 = (x1, y1), P2 = (x2, y2) и P3 = (x3, y3), где линия определяется P1 и P2:
Когда вы проецируйте P3 вертикально вниз на линию, точка проекции имеет координату X, равную x3, и координату Y (вы можете получить это из уравнения линии):
y1 + (y2 - y1)*(x3 - x1)/(x2 - x1)
(Знаковое) расстояние между P3 и точка проекции будет тогда:
y3 - y1 - (y2 - y1)*(x3 - x1)/(x2 - x1)
Знак значения указывает, на какой стороне линии P3 находится. Если вас это не интересует, просто возьмите абсолютное значение (обычно abs
функция в математических библиотеках)