Рассмотрим первое уравнение:
х² + у² = 5
х² + 2ху + у² = 5 + 2ху
(х + у)² = 5 + 2ху
Из второго уравнения
х + у = 5 - ху
Тогда получаем, что
(5 - ху)² = 5 + 2ху
Пусть ху = с
Тогда
(5 - с)² = 5 + 2с
25 - 10с + с² = 5 + 2с
с² - 12с + 20 = 0
D = 144 - 80 = 64
с = (12 ± 8) / 2
с = 10 или с = 2
1. Пусть с = 10.
Тогда
х + у = -5, или у = -5 - х
х² + у² = 5, или х² + 25 + 10х + х² = 5, тогда
х² + 5х + 10 = 0
D = 25 - 40 < 0, значит уравнение не имеет решений.
2. Пусть с = 2.
Тогда
х + у = 3, или у = 3 - х
х² + у² = 5, или х² + 9 - 6х + х² = 5, тогда
х² - 3х + 2 = 0
D = 9 - 8 = 1
x = (3 ± 1) / 2,
x = 2 или х = 1
Тогда, если х = 2, то у = 1, если х = 1, то у = 2.
Для начала поработаем со вторым выражением. Первые три слагаемых свернем в квадрат разности: 
; В следующих двух слагаемых вынесем общий множитель "40": 
; В итоге получим следующее уравнение: 
. В скобках мы видим похожие выражения, отличающиеся лишь знаком посередине (такие выражение называются сопряженными). А хотелось бы видеть там равные (строго говоря тождественные) выражения. Пусть в первой скобке вместо 
будет стоять 
; Это приведет к тому, что придется убавить 
; В итоге: 
; Слева стоит квадрат суммы. Уравнение примет вид: 
; Сворачивая еще раз: 
; Получаем серию прямых: 
; А теперь приступим к рассмотрению первого уравнения.
Это уравнение задает круг с центром в точке (0, 0) и радиусом 
; Рассмотрим прямую 
; Найдем радиус окружности с центром в начале координат, которая касается данной прямой. Это легко сделать из подобия треугольников. 
; Значит, круг касается всех этих четырех прямых. Достаточно найти только координаты касания с любой из прямых. Это делается так же, как и находился радиус окружности. Для той же прямой это координаты 
; Ну а все решения:
