Решить: под корнем 25-10а+а квадрат, где а меньше 5 ,у меня вышло 5+а и -10а под корнем. или надо по формулам сокращенного умножения?

По формуле
√(х²)=| x |

√(25-10a+a²)=√(5-a)²=| 5 - a|
По  определению модуля
       x, если х≥0
|x|=
     - х, если x < 0

Так как a < 5, то   а - 5 < 0 
5-a > 0
|5-a|= 5-a

ответ. 5 - а