=
Подставляем и получается:

В знаменателе формула разности квадратов. 
По этой формуле получаем:

ответ: 1
(a/b + b/a + 2)/(a+b)^2
после приведения к общему знаменателю первая скобка сворачивается как квадрат суммы и сокращается со второй
[(a^2 + 2ab + b^2)/ab]/(a+b)^2 = 1/ab после подстановки чисел получим разность квадратов
1/(√2-1)(√2+1) = 1/(2 - 1) = 1