ПРЕОБРАЗУЙТЕ В МНОГОЧЛЕН СТАВЛЮ (x^3y^2-3x^2y^2 7xy-y^2)*2xy^2

ОДЗ: x^2+8x-24>=0, x<=-4-2*sqrt(10), x>=-4+2*sqrt(10)
Решение, как вы правильно заметили, стоит осуществлять через такую замену:
x^2+8x=t
ОДЗ: t-24>=0, t>=24
t+4*sqrt(t-24)=36
4*sqrt(t-24) = 36-t - Можно возвести в квадрат, если выражение справа неотрицательное. Получаем систему:
16*(t-24) = (36-t)^2
36-t>=0
t>=24 (из ОДЗ)

16t - 384 = 1296 - 72t + t^2
24<=t<=36

t^2 - 88t + 1680 = 0
24<=t<=36

t1=28 - удовл.условию системы (24<=t<=36),
t2=60 - не удовл. условию системы (24<=t<=36)

Вернемся назад к замене:
x^2+8x=28
x^2+8x-28=0, D=176
x1=-4 + 2*sqrt(11)
x2= -4 - 2*sqrt(11)
Оба корня удовлетворяют ОДЗ.

Площадь фигуры может быть вычислена через определённый интеграл.

График функции y=3x² - 2 - квадратная парабола веточками вверх. Вершина параболы находится в точке А(0; -2). Парабола пересекает ось х в двух точках:

х₁ = -√2/3 ≈ -0,816

х₂ = √2/3 ≈ 0,816

Найдём пределы интегрирования

При х = 1 y=3x² - 2 = 1

Эта точка находится правее нуля функции в точке х₂ ≈ 0,816, т.е. в области положительных у, поэтому нижний предел х = 1, ну, а верхний предел, естественно, х = 2.

Интегрируем: ∫(3x² - 2)dx = x³ - 2x.

Подставляем пределы:

S = (2³ - 2·2) - (1³ - 2·1) = 4+1 = 5

ответ: Площадь фигуры равна 5