нужно решить графическим системы уравнений:

По формуле a^2 + 2ab + b^2 = ( a+b)^2 свернём  x^2+6x+9
Получим 
(x - 1)*(x + 3)^2 - 5*(x + 3) =  0 
Выносим общий множитель, имеем
( x + 3)*( (x - 1)*( x + 3) - 5) = 0 
Аккуратно раскрываем скобки, приводим подобные 
( x + 3)*( x^2 + 3x - x - 3 - 5) = 0
( x + 3 )*( x^2 + 2x - 8) = 0
Приравниваем каждое к нулю и решаем отдельно
(1) 
x + 3 = 0 
x₁ = - 3 

(2)
x^2 + 2x - 8 = 0 
Решим квадратное уравнение через дискриминант 
D = b^2 + 4ac = 4 + 4*8 = 36 = 6^2 > 0 
x₂ = ( - 2 + 6)/2 = 4/2 = 2;
x₃ = ( - 2 - 6)/2 = - 8/2 = - 4;

ответ :
- 4; - 3; 2 

1 2 1 | 4
3 -5 3 | 1
2 7 -1 | 8
- от 2 строки отнимаем 1 ст. , умноженную на 3; от 3 ст. отнимаем 1 ст. , умноженную на 2
1 2 1 | 4
0 -11 0 | -11
0 3 -3 | 8
- 2 ст. делим на -11
1 2 1 | 4
0 1 0 | 1
0 3 -3 | 0
от 1 ст. стотнимаем отнимаем 2 ст., умноженную на 2; от 3 ст. отнимаем 2 ст., умножн. на 3
1 0 1 | 2
0 1 0 | 1
0 0 -3 | -3
3 ст. делим на -3
1 0 1 | 2
0 1 0 | 1
0 0 1 | 1
от 1 ст. отнимаем 3 ст., умноженную на 1
1 0 0 | 1
0 1 0 | 1
0 0 1 | 1
х= 1
y= 1
z= 1

3 2 1 | 5
2 3 1 | 1
2 1 3 | 11
1 ст. делим на 3

1 2/3 1/3 | 5/3
2 3 1 | 1
2 1 3 | 11
от 2 ст. отнимаем 1 ст, умноженную на 2; от 3 ст. отнимаем 1 ст, умноженную на 2

1 2/3 1/3 | 5/3
0 5/3 1/3 | -7/3
0 -1/3 7/3 | 23/3
2 ст. делим на 5/3

1 2/3 1/3 | 5/3
0 1 0,2 | - 1/4
0 -1/3 7/3 | 23/3
от 1 ст. отнимаем 2 ст., умноженную на 2/3; к 3 ст. прибавляем 2 ст., умноженную на 1/3

1 0 0,2 | 2,6
0 1 0,2 | - 1/4
0 0 2,4 | 7,2
3 ст. делим на 2,4

1 0 0,2 | 2,6
0 1 0,2 | -1,4
0 0 1 | 3
от 1 ст. отнимаем 3 ст., умноженную на 0,2; от 2 ст. отнимаем 3 ст. , умноженную на 0,2

1 0 0| 2
0 1 0|-2
0 0 1| 3
х= 2 y=-2 z=3