Докажите тождество 1)(сos^2b - sin^2b) / (1+ cos b*sin b) = (cos b-sin b)
2)( cos b / 1+sin b) – (cos b / 1- sin b) = - 2 tg b
3)(1+tg b)^2+(1- tg b)^2 = 2 / cos^2 b
4)(1 - 4 cos^2 b* sin^2 b) / (cos b+ sin b)^2+( 2 cos b * sin b) = 1

РЕШЕНИЕ
1.
а) = 8*a² +12*a*b -2*a*b - 3*b² = 8*a²+10*a*b-3*b² - ОТВЕТ
б) = y³ - 2*y²+3*y -5*y²+10*y -15 = y³ - 7*y² + 13*y - 15 - ОТВЕТ
2.
а) = (х-у)*(а+4) - ОТВЕТ
б) = 3*(х-у) + а*(х-у) - (х-у)*(а+3) - ОТВЕТ
3.
(х+у)*у - (х³-у)*(у-1) = x*y+y²-x³*y+x³+y²-y =x³*(1-y)+2*y² + y*(x-1) - ??? 
4.
Исправляем на  (a+b)*y
(y-a)*(y-b) = y² - (a+b)* y + a*b
y² - b*y - a*y - a*b = y² - a*y - b*y + a*b
0 = 0 - тождество - ОТВЕТ
5.
1) P = 2*(a+b) = 40 - периметр - дано
2) (a-3)*(b+6) = a*b + 3 -  площадь - дано
Упрощаем 2)
3) a*b + 6*a - 3*b - 18 = a*b + 3
Упрощаем- сокращаем.
4) 6*a - 3*b = 3+18 = 21
Делаем подстановку из ур. 1)
5) b = 20 - a
6) 6*a  -60 + 3*a = 21
Упрощаем
7) 9*а =21 + 60 = 81 
Находим стороны
8) а = 84 : 9 = 9  - ширина
9) b = 20 - 9 = 11 - длина
Находим площадь
10) S = a*b = 9 * 11 = 99 - площадь была - ОТВЕТ
Проверка
11) 6*17 = 102 = 99 +3 - правильно

Обозначим длину l cм, ширину b см.
P = 2(l + b) = 40
2l + 2b = 40
2l = 40 - 2b = 2(20 - b)
l = 20 - b
S1 = l*b = (20 - b)*b = 20b - b^2

Изменим размеры по условию, получаем
длина = (l-3) см = 20 - b - 3 = 17 - b
ширина = (b + 6) см
Площадь нового прямоугольника
S2 = (l-3)* (b + 6) = (20 - b - 3)*(b + 6) = (17 - b)*(b + 6) = 17b - b^2  + 102 - 6b = 11b - b^2 + 102  
S2 = S1 + 3
  20b - b^2 + 3 = 11b - b^2 + 102
20b - b^2 - 11b + b^2 = 102- 3
9b = 99
b = 11 см
l = 20 - b = 20 - 11 = 9 см
S1 =  l*b = 11*9 = 99 см^2

Проверка:  l = 9-3=6 см
                   b = 11+6 = 17 см
                   S2 = 6*17=102 см^2
                   S2 - S1 = 102 - 99 = 3 см^2

ответ: площадь первоначального прямоугольника 99 см^2.