Возьмите скалярное произведение единичного вектора линии-кандидата и нормали единицы, указывающей направление, которое вы хотите для другого (есть два единичных вектора нормали).
Если скалярное произведение положительно, оно «в стороне»; «по направлению» отрицательно.
Если вы не знаете векторов, получите вступительный текст и прочитайте его.