Я бы попытался найти способ перечисления возможных конфигураций для трех кругов, а затем проверять каждую конфигурацию до тех пор, пока не будет найден один, где подходят эти три круга, или пока все конфигурации не будут протестированы и отклонены.
(В дальнейшем я предполагаю, что каждый круг, как известно, вписывается в треугольник сам по себе. Очевидно, что если какой-либо круг не подходит сам по себе, то он не подходит для любой конфигурации из трех кругов.)
Конфигурация (1) включает в себя помещение круга в каждый угол треугольника. (Это конфигурация, которую все заметили.)
Существует шесть способов размещения кругов, и для каждого расположения достаточно проверить, будут ли круги соответствовать попарно:
Расстояние AS₁ равно r₁ / tan (½α), расстояние S₂B равно r₂ / tan (½β), а расстояние S₁S₂ равно √ ((r₁ + r₂) ² - (r₁ - r₂) ²) = 2√r₁r₂
Круги подходят, если AS₁ + S₁S₂ + S₂B ≤ AB.
В конфигурации (2) мы помещаем два круга в два из углов треугольника, а третий круг между этими двумя и одним из двух ребер, который не касается обоих кругов:
Определить, подойдут ли они, немного сложнее:
Чтобы найти длину AS₁, нам нужно пройти вокруг треугольника от угла C до точки T. Я оставлю детали этого в качестве упражнения.
Существует 18 способов упорядочить круги в этой конфигурации.
Есть ли конфигурация (3)? Я посмотрел, но не смог найти тот, который не мог быть превращен в один из двух, которые я дал. Например, если все три круга касаются одной и той же стороны, то всегда есть место, чтобы поменять средний круг на противоположную сторону, получив конфигурацию (2). Тем не менее, перечисление геометрических конфигураций всегда сложно, и я мог бы легко пропустить одну.