Похідна складеної функції. Ознаки монотонності, екстремуми функції

Без графиков можно так. Если (x₀,y₀) - какое-нибудь решение и |x₀|≠|y₀|, то (-x₀,-y₀), (y₀,x₀), (-y₀,-x₀) - еще 3 различных решения. Значит, чтобы было 2 решения, должно быть x₀=y₀, либо x₀=-y₀.
1) Если x₀=y₀, то |x₀|=1/2=|y₀|, откуда а=1/2. Из неравенства
|x+y|≤|x|+|y|≤√(2(x²+y²)) верного для всех х,у при а=1/2 получаем
2-|x|-|у|≤|x|+|y|≤1, т.е. |x|+|y|=1. Подставляя это во второе уравнение системы, получим 4 точки, из которых подходят только две: (1/2;1/2) и (-1/2;-1/2). Т.е. при а=1/2 система действительно имеет только 2 решения. 
2) Если x₀=-y₀, то |x₀|=1=|y₀|, откуда а=2. Из неравенства
2|x|=|(x+y)+х+(-у)|≤|x+у|+|x|+|y|=2, следует что |x|≤1 и аналогично |y|≤1, а значит x²+y²=2 может быть только если |x|=1 и |y|=1. Из 4 точек подходят только две (-1;1) и (1;-1), значит при а=2 система тоже имеет только 2 решения. Итак, ответ: а∈{1/2; 2}.

Без анализа здесь никак (хотя может и есть точнейшие методы решения таких задач). Прежде всего, думаем при каких значениях функция не существует. То есть найдем такие значения , при которых выражение не имеет смысла. Посмотрели на выражение, подумали и прикинули, что тут может быть где-то два варианта, при которых выражение не имеет смысла:
1) знаменатель обращается в нуль:
Чтобы знаменатель обратился в нуль, нужно чтобы , однако понятно, что , значит знаменатель не обратиться в нуль.
2) выражение под корнем в знаменателе будет отрицательным (корень из отрицательного числа не имеет смысла)

Ага, имеем, что при любом значении функции не существует. То есть она идет от и куда-то дальше. Куда — нам пока неизвестно.
Теперь посмотрим, что происходит с функцией при возрастании . Может быть она периодична?

Пока что видим, что функция убывает. Найдем пересечение с нулем. Для этого просто найдем , при котором числитель обратиться в нуль.
Попробуем вместо повставлять разные значения (большие и маленькие).

Видим, что с увеличением уменьшается . Делаем вывод, что функция убывает бесконечно много. То есть — не существует, — не существует.