У выражение
(a/a^2-25-a-8/a^2-10a+25)/a-20/(a-5)^2=
1)-2/a+5
2)2/a-5
3)-2/a-5
4)-2a/a-5

Чтобы найти интервалы монотонности, нужно найти производную.
Производная суммы равны сумме производных.
f'(x)=-3x^2-4x
Найдем нули производной
-3x^2-4x=0
-x(3x+4)=0
x=0 x =-4/3
При x>0 f'(x) < 0 => f(x) убывает на интервале (0;+бесконечность)
При -4/3<x<0 f'(x) f'(x) > 0 => f(x) возрастает на интервале (-4/3;0)
При x<-4/3 f'(x) < 0 => f(x) убывает на интервале (0;+бесконечность)
x=-4/3 - точка минимума(производная меняет знак с - на + при переходе через эту точку)
x=0 - точка максимума (производная меняет знак с + на - при переходе через эту точку)

F ' (x) = 3x^2 + 14x - 5

3x^2 + 14x - 5 = 0 
D = 196 + 60 = 256
x1 = ( - 14 + 16)/6 = 1/3
x2 = ( - 14 - 16)/6 = - 5 

 
       +                            -                             +
( - 5)  (1/3)  > x 

В окрестности точки x = - 5 производная функции меняет знак с (+) на (-). Следовательно, точка x = - 5 - точка максимума.
В окрестности точки x = 1/3 производная функции меняет знак с (-) на (+). Следовательно, точка x = 1/3 - точка минимума.

x ∈ ( - ∞ ; - 5) ∪(1/3; + ∞) возрастает
x ∈ ( - 5; 1/3) убывает