При каких a отношение корней уравнения x^2-(a+2)x+a^2-1=0 равно 3?

Можно и по т.Виета:
a²-1 = x₁ * x₂
a+2 = x₁ + x₂
и по условию либо x₁ = 3x₂   либо x₂ = 3x₁
1) x₁ = 3x₂ 
a²-1 = 3x₂ * x₂
a+2 = 4x₂ ---> x₂ = (a+2)/4
a²-1 = 3*(a+2)²/16
16a²-16 = 3a²+12a+12
13a² - 12a - 28 = 0
D=144+1456=40²
a₁;₂ = (12+-40) / 26 
a₁ = 2   a₂ = -18/13
2) x₂ = 3x₁ 
a²-1 = 3(x₁)²
a+2 = 4x₁ ---> x₁ = (a+2)/4
a²-1 = 3*(a+2)²/16
в этом случае решение то же самое