1.найти область определение выражения:
√(x^2-7х-8)
2. решить двойное неравенство:
-2< 8х+1 дробь 5< 3

Площадь квадрата   х см² , тогда сторона квадрата  √х  см .
Стороны прямоугольника : (√х  + 3) см  и  (√х  - 6) см.
Площадь прямоугольника : (√х + 3)(√х  - 6)  см²
Уравнение:
х   -  (√х + 3)(√х  - 6)  = 63
х   -  ((√х)²  - 6√х  + 3√х  - 18 ) = 63
х  -  ( х  - 3√х  - 18) = 63
х   - х   + 3√х  + 18  = 63
3√х  = 63 - 18
3 * √х  = 45
√х = 45 : 3
√х = 15
(√х)²  = 15²
х =  225  (см²) площадь квадрата

Проверим:
225   - (√225  + 3)(√225 - 6) = 225 - (15 + 3)(15 - 6) = 225 - 18 * 9 =
= 225 -  162 =  63 (см²) разница в площади.

ответ :  225  см² площадь квадрата.

5x² + 12xy + 9y² + 6x + 34

9y² + 12xy практически создают квадрат суммы, дополним это выражение:
9y² + 12xy + 4x² = (3y + 2x)², заметим, что это выражение есть целое число в квадрате.

5x² + 12xy + 9y² + 6x + 34 = x² + (4x² + 12xy + 9y²) + 6x + 34 = (3y + 2x)² + x² + 6x + 34

x² + 6x также дополняем до полного квадрата:
x² + 6x + 9 = (x + 3)²

(3y + 2x)² + x² + 6x + 34 = (3y + 2x)² + x² + 6x + 9 + 25 = (3y + 2x)² + (x + 3)² + 25

25 = 5² (целое число в квадрате)

(3y + 2x)² + (x + 3)² + 25 = (3y + 2x)² + (x + 3)² + 5²

Итак, получившееся выражение однозначно при любых целых x и y можно представить в виде суммы квадратов трёх натуральных чисел.