10б.009. в прямоугольный треугольник с углом 60° вписан ромб так, что угол в 60° у них общий, остальные три вер- шины ромба лежат на сторонах треугольника. найти длину большего катета, если длина стороны ромба v12 равна 5

На чертеже точки касания N и N1 изображены совпадающими, но это еще надо доказать. Поэтому СНАЧАЛА я не считаю их совпадающими. То есть окружность O1 касается AC в точке N, а окружность O2 - в точке N1 (слова "с центром" дальше буду опускать, если и так ясно).
Для треугольника ABC точки касания с O1 делят стороны на три отрезка AN, CN и еще один (точнее, два равных) из вершины B. Я обозначу его например буквой x.
Тогда очевидно
AN + CN = AC;
AN + x = AB;
CN + x = BC;
Если вычесть из второго третье, получится AN - CN = AB - BC; если теперь сложить это с первым, то 
AN = (AC + AB - BC)/2;
Точно так же для треугольника ACD получается 
AN1 = (AC + AD - CD)/2; и нигде не предполагается, что AN = AN1; это надо доказать.
Весь четырехугольник ABCD является ОПИСАННЫМ, то есть AD + BC = AB + CD;
или AD - CD = AB - BC; или AC + AD - CD = AC + AB - BC; то есть AN = AN1, и точки N и N1 совпадают, это просто одна точка N. 
Последствия этого очень велики. :) Окружности O1 и O2 касаются, AC является общей касательной, проведенной в точке касания N окружностей O1 и O2, и линия центров O1O2 перпендикулярна AC. 
Важно! - пока нигде не использовано, что ABCD - трапеция! Этот результат справедлив для любого выпуклого описанного четырехугольника.
Поэтому (см. чертеж) ∠KO1O2 = ∠CAD (стороны углов перпендикулярны), и треугольники KO1O2 и ACP подобны. CP - высота трапеции. Она равна
CP = 2R = 40; 
сумма радиусов окружностей равна O1O2 = 25; отсюда легко найти KO1 = 40 - 25 = 15; получился "египетский" треугольник :) то есть KO2 = 20;
Ну, и из подобия KO1O2 и ACP AC = 50 (поскольку СP = 2*KO2  :) )

а) Постройте плоскость, проходящую через точки K, L и М - для этого надо просто соединить эти точки.

б) Найдите угол между этой плоскостью и плоскостью основания АВС.
Продлим отрезки КМ и KL до пересечения с плоскостью АВС. Для этого достаточно продлить стороны АС и АВ.
Точки пресечения - это Д и Е.
Примем длину отрезка АК за 1.
Из треугольника АКД отрезок АД = 1 / tg 60 = 1 / √3.
Аналогично АЕ = 1 / tg 45 = = 1 / 1 = 1.
Угол ЕАД равен 60 градусов (по заданию).
По теореме косинусов 

Находим гипотенузы в треугольниках АКД и АКЕ.

КЕ = √(1²+1²) = √2 (острые углы по 45 градусов).
Теперь определены 3 стороны в треугольнике КЕД, угол наклона которого к плоскости АВС надо найти.
Для этого двугранный угол между основой и треугольником КДЕ надо рассечь плоскостью, перпендикулярной их линии пересечения ЕД.
Находим высоты в треугольниках АЕД и КЕД по формуле:

АЕ         ДЕ                 АД                  p                      2p               S =
1    0.8694729    0.5773503    1.2234116    2.446823135     0.25
 haе              hде                 hад
 0.5          0.57506            0.86603 

       КЕ                ДЕ              КД              p                2p               S =
1.4142136   0.869473   1.154701   1.719194    3.43839    0.501492
       hке                hде                     hкд
0.7092           1.15356              0.86861.
Отношение высот hде и  hде  - это косинус искомого угла:
cos α = 0.57506 / 1.15356 =  0.498510913.
ответ: α = 1.048916149 радиан =  60.09846842°.