Aи b - действительные числа, многочлен

p(x)=x4+(a+b)x3+(a+b+ab)x2+(a2+b2)x+ab не имеет действительных корней. найдите наибольшее целое значение выражения (a−2)2+(b−2)2.

Воспользуемся методом интервалов, чтобы решить это неравенство. тогда делим левую и правую часть на 2, чтобы убрать 2 перед скобкой. получаем равносильное ему неравенство (х-5)(х+1)≥0. выписываем отдельно два простых равенства и решаем их. получаем х первое равно 5, второе -1. подставив получим верное неравенство. теперь чертим координатную прямую на которой отмечаем икс первое и второе по возрастанию. а как дальше покажу на фото. ответом будет являться промежуток. точки закрашенные так как стоит знак ≥! 

Решение.
Находим первую производную функции:
y' = (x-4)² * (2*x-2)+(x-1)² * (2*x-8)
или
y' = 2(x-4)(x-1)(2*x-5)
Приравниваем ее к нулю:
2(x-4)(x-1)(2*x-5) = 0
x₁ = 1
x₂ = 5/2
x₃ = 4
Вычисляем значения функции 
f(1) = 0
f(5/2) = 81/16
f(4) = 0
ответ: fmin = 0; fmax = 81/16
Используем достаточное условие экстремума функции одной переменной. Найдем вторую производную:
y'' = 2(x-4)²+2(x-1)²+2(2*x-8)(2*x-2)
или
y'' = 12*x ²- 60*x + 66
Вычисляем:
y''(1) = 18>0 - значит точка x = 1 точка минимума функции.
y''(4) = 18>0 - значит точка x = 4 точка минимума функции.