Просто чтобы прояснить, у вас есть три точки A = (a, b), C = (c, d) и E = (e, f), и вам интересно, проходит ли отрезок AE через C, и таким образом Можно ли заменить пару сегментов AC и CE на один сегмент AE?
наклон AC = (d-b) / (c-a) = наклон CE = (f-d) / (e-c)
умножив на знаменатели, вы получите
(d-b) (e-c) = (f-d) (c-a)
это всего четыре вычитания, два умножения и сравнение. Вам нужно будет сделать сравнение с некоторой погрешностью из-за использования плавающей запятой.