Тригонометрическое выражение 10 класс

Построим сумму векторов а и b и их разность.
↑АС = ↑р = ↑а + ↑b
↑DB = ↑q = ↑a - ↑b
Чтобы найти угол между векторами p и q, построим вектор, равный вектору q, с началом в точке А.
∠ЕАС - искомый.
Из ΔABD найдем длину вектора q по теореме косинусов:
|↑q|² = AB² + AD² - 2·AB·AD·cos60° = 25 + 64 - 2·5·8·1/2 = 89 - 40 = 49
|↑q| = 7
Сумма углов параллелограмма, прилежащих к одной стороне, равна 180°, значит ∠АВС = 120°.
Из ΔABС найдем длину вектора р по теореме косинусов:
|↑p|² = AB² + BC² - 2·AB·BC·cos120° = 25 + 64 + 2·5·8·1/2 = 89 + 40 = 129
|↑p| = √129

Из ΔЕАС по теореме косинусов:
cos α = (AE² + AC² - EC²) / (2 · AE · AC)
cos α = (49 + 129 - 256) / (2 · 7 · √129) = - 78 / (14√129) = - 39√129 / 903
cos α = - 13√129/301

Пусть у меньшей окружности радиус R и расстояние от вершины угла до центра D; а у большой k*R и k*D; - ясно, что эти расстояния пропорциональны.
k нужно найти из отношения площадей.
Условие, что окружности касаются, означает, что
k*D - D = R + k*R; то есть R/D = (k* - 1)/(k + 1);
легко видеть, что R/D это синус половины угла, который надо найти, так как центры окружности лежат на биссектрисе.
Что касается величины к, то её нетрудно подобрать, k^2 = 97 + 56√3;
Легко видеть, что k^2 = 49 +  2*7*4√3 + 48 = (7 + 4√3)^2;
то есть k = 7 + 4√3; технически задача уже решена.
sin(α/2) = (7 + 4√3 - 1)/(7 + 4√3 +1) = √3/2; все преобразования сделайте сами. То есть α/2 = 60°; α = 120°;