Геометрия c расчет:
Вычислить вектор
AB = B - A (AB.x = B.x - A.x, similar for Y)
Его длина
lAB = sqrt(AB.x*AB.x + AB.y*AB.y)
Нормализованный вектор
uAB = AB / lAB
Средняя точка хорды
mAB = A + AB/2
Значение стрелки
F = R - sqrt(R*R - lAB*lAB/4)
Теперь середина ар c:
P.x = M.x - mAB.Y * F
P.y = M.y + mAB.X * F
Обратите внимание, что есть две точки (вам нужно знать ориентация центра круга относительно AB), для второго поменять знаки второго члена