1) решить алгебраического сложения систему:
5х+2у=2,
3х-у=10
2)систему предыдущего задания решить подстановки

Итак, чтобы уравнение имело смысл, а должно быть больше нуля.
По свойству модуля:
1)x^2-5ax=15a
2)x^2-5ax=-15a
Решим первое уравнение:
x^2-5ax-15a=0
Чтобы квадратное уравнение имело два корня, D(дискриминант) должен быть больше нуля:
D=(-5a)^2-4*(-15a)=25a^2+60a=5a(5a+12)>0
+(-2,4)-(0)+

a e (0; + беск.)
Нас не устраивает промежуток a e (-беск.; -2,4)
2)x^2-5ax=-15a
x^2-5ax+15a=0
D=(-5a)^2-4*15a=25a^2-60a=5a(5a-12)>0
+(0)-(2,4)+
a e (2,4; + беск.)
Нас не устраивает промежуток a e (-беск.;0)
Объединяя два решения, получаем:
ответ: a e (2,4; + беск.)

По формуле a^2 + 2ab + b^2 = ( a+b)^2 свернём  x^2+6x+9
Получим 
(x - 1)*(x + 3)^2 - 5*(x + 3) =  0 
Выносим общий множитель, имеем
( x + 3)*( (x - 1)*( x + 3) - 5) = 0 
Аккуратно раскрываем скобки, приводим подобные 
( x + 3)*( x^2 + 3x - x - 3 - 5) = 0
( x + 3 )*( x^2 + 2x - 8) = 0
Приравниваем каждое к нулю и решаем отдельно
(1) 
x + 3 = 0 
x₁ = - 3 

(2)
x^2 + 2x - 8 = 0 
Решим квадратное уравнение через дискриминант 
D = b^2 + 4ac = 4 + 4*8 = 36 = 6^2 > 0 
x₂ = ( - 2 + 6)/2 = 4/2 = 2;
x₃ = ( - 2 - 6)/2 = - 8/2 = - 4;

ответ :
- 4; - 3; 2