решил выкласть решение.смотри рисунок.понятно, что отрезки катетов есть отрезки касательных, они равны.Сделаем все обозначения. гипотенуза будет 1) х+у=2RПо т. Пифагора(x+r)²+(y+r)²=(x+y)²раскрывая, получаемr(x+y)+r²=xy подставляем сюда 1) и получаемxy=2Rr+r²из 1) выделяем у и подставляем, приводим и т.д. и получаемx²-2Rx+(2Rr+r²)=0D=4(R²-2Rr-r²)x=R+/- √(R²-2Rr-r²) но т.к. x≤R то тогда x=R- √(R²-2Rr-r²) ну а нижний катет желтого треугольника тогда равен √(R²-2Rr-r²) найдем гипотенузу желтогоr²+(√(R²-2Rr-r²) )²=z²z²=R²-2Rrz=√(R*(R-2r))P.S. Здесь я не сделал исследование по поводу допустимых значений радиусов. Просто не захотел, т.к. удлиняет решение.