Для каждой пары окружностей найдите два пересечения (если они существуют) на их границе. Затем проверьте, находится ли одна из этих точек внутри третьего круга (расстояние до центра меньше радиуса этого круга).
Это идентифицирует три «угловые» точки области тройного пересечения, по крайней мере, когда такое пересечение существует.
Кстати, пересечение двух окружностей на самом деле является скорее линейной задачей, чем квадратичной, правильно подходящей.