Если у вас есть 3 точки и вы хотите рассчитать угол между ними, вот быстрый и правильный способ вычисления правильного значения угла:
double AngleBetweenThreePoints(CGPoint pointA, CGPoint pointB, CGPoint pointC)
{
CGFloat a = pointB.x - pointA.x;
CGFloat b = pointB.y - pointA.y;
CGFloat c = pointB.x - pointC.x;
CGFloat d = pointB.y - pointC.y;
CGFloat atanA = atan2(a, b);
CGFloat atanB = atan2(c, d);
return atanB - atanA;
}
Это будет работать для вас, если вы укажете точку на одной из линий, точку пересечения и точку на другой линии.