2 и 3 задание
Всем здоровья и удачи в учёбе!

АС1/С1В=1/1, ВА1/А1С=3/7, АВ1/В1С=1/3,  S A1B1C1=S ABC - S AC1B1 - S C1BA1 - S A1CB1, обе части уравнения делим на S ABC

S A1B1C1 / S ABC = 1 - (S AC1B1/S ABC) - (S C1BA1/ S ABC) - (S A1CB1/S ABC)

S ABC=1/2*AB*AC*sinA, S AB1C1=1/2*AC1*AB1*sinA, AB=AC1+C1B=1+1=2, AC=AB1+B1C=1+3=4, S AB1C1/S ABC=(AC1*AB1)/(AB*AC)=(1*1)/(2*4)=1/8,

S ABC=1/2*AB*BC*sinB, S C1BA1=1/2*C1B*BA1*sinB, BC=BA1+A1C=3+7=10, 

S C1BA1/S ABC=(C1B*BA1)/(AB*BC)=(1*3)/(2*10)=3/20, 

S ABC=1/2*AC*BC*sinC, S A1CB1=1/2*A1C*B1C*sinC, S A1CB/S ABC=(A1C*B1C) / (AC*BC)=(7*3)/(4*10)=21/40,

S A1B1C1/S ABC=1-1/8-3/20-21/40=8/40=1/5, или S ABC/S A1B1C1=5/1

Итак, поехали.
см. рисунок. Там сделали допостроения и обозначения.
СВ=х
АС=х-7
по т. Пифагора  (х-7)²+х²=13²
отсюда х=12 (отрицательное значение ж не подходит)
х-7=5
Катеты будут 5 и 12.Напишем их зеленым на рисунке, чтоб удобнее было.
А теперь самое интересное.
Центр опис.окр. лежит на серединных перпендикулярах. Что и обозначено. Т.е. СМ=12/2=6
Дальше, ∠СОК - центральный для ∠СВК, значит он = 2α, тогда угол СОН в 2 раза меньше ( треугольник СОК равнобедр. с высотой ОН) и равен α. Обозначим зеленым.
Тогда ∠ОСМ=90-α-45=45-α
теперь из Δ ОСМ имеем  R=CM/cos(45-α)
R=6/cos(45-α)
подставляя формулу косинуса разности получаем
cos(45-α)=cos45cosα+sin45sinα=√2/2(cosα+sinα)

но из первоначального треугольника, когда нашли его катеты, имеем
cosα=12/13
sinα=5/13
a  cosα+sinα=12/13+5/13=17/13
cos(45-α)=17√2/26

и R=6/(17√2/26)=78√2/17

вроде так.