Не понимаю в геометрии , а завтра сдавать...

Как я понял, речь идет о векторах под углом друг к другу.
Выглядит это примерно как на рисунке.
Острый угол между векторами можно найти из теоремы косинусов.
|a-b|^2 = |a|^2 + |b|^2 - 2|a|*|b|*cos(a, b)
4*26 = 12^2 + 14^2 - 2*12*14*cos(a, b)
104 = 144 + 196 - 336cos(a, b)
cos(a, b) = (144 + 196 - 104)/336 = 236/336 = 59/84
Вектор b' = b, но угол (a, b') - тупой. (a, b') = 180° - (a, b).
cos(a, b') = -cos(a, b) = -59/84
Длину вектора |a+b| найдем тоже из теоремы косинусов.
|a+b|^2 = |a|^2 + |b|^2 - 2|a|*|b|*cos(a, b') =
= 12^2 + 14^2 - 2*12*14*(-59/84) = 144 + 196 + 336*59/84 = 576
|a+b| = √576 = 24

Раз, высшая математика, значит, правило Лопиталя знаем.
x -> 0 везде опускаем, но подразумеваем.

1. lim (1 - (cos(3x))^2) / (3tg(x^2)) = lim (sin(3x)) / (3tg(x^2)) =
(тангенс распишем через sin(x^2)/cos(x^2))
= (1/3) * lim (sin(3x))^2 * cos(x^2) / sin(x^2) =
= (1/3) * lim cos(x^2) * lim (sin(3x))^2 / sin(x^2) =
(предел косинуса равен 1)
= (1/3) * lim (sin(3x))^2 / sin(x^2) =
(используем правило Лопиталя)
= (1/3) * lim [6 cos(3x) sin(3x)] / [2x cos(x^2)] =
= lim cos(3x)/cos(x^2) * lim sin(3x) / x = lim sin(3x) / x =
(предел отношения косинусов равен 1, затем правило Лопиталя)
= lim 3 cos(3x) /1 = 3
ВСЁ

2. lim arctg(4x) / [cos(2x) * sin(6x)] = lim 1/cos(2x) * lim arctg(4x) / sin(6x) =
(предел косинуса равен 1, затем правило Лопиталя)
= lim arctg(4x)/sin(6x) = lim [4/(16x^2 + 1)]/[6 cos(6x)] = 4/6 = 2/3
Отсюда a = 3
 
Правило Лопиталя: предел отношений функций равен пределу отношения их производных. Т.е. надо взять производные числителя и знаменателя. Используется при раскрытии неопределённости 0/0, как в наших случаях.