Решить систему x+y+x^2+y^2=18 xy(x+y)=30 я решала через замену. получила: m^2-2n+m=18 nm=30 потом n=30/m m^2-2(30/m)+ m-18=0 и дальше заклинило корни должны получиться 2; 3 и 3; 2 за

X +y + x^2 + 2xy + y^2 - 2xy = 18;
xy(x+y) = 30;

(x+y) + (x+y)^2 - 2xy = 18;
xy(x+y) = 30;
m = x+y;
n = xy;

m^2 + m - 2n = 18;
m n = 30;     n = 30 /m;
m^2 + m - 60/m = 18;
m^3 + m^2 - 18m - 60 = 0;

Методом подбора или по таблице Горнера определим делитель , равный 5. Разделим уголком выражение на 5 и получим
_m^3 + m^2 - 18m -60    :      m - 5
 m^3  - 5 m^2                         m^2 +6m +12.
        _6m^2 -18 m - 60
          6m^2 -30m
                   _12 m - 60
                      12m - 60
                            0.
теперь наше выражение примет вид;
(m-5)(m^2 + 6m + 12) = 0;
m^2 + 6m + 12 =0; D <0 ; ⇒корней нет. 
Остается один корень m = 5.
n = 30/ m = 6;
x+y = 5;     x = 5- y;
 xy = 6;       y(5-y)= 6;
- y^2 + 5y - 6 = 0;
 y^2 - 5y + 6 = 0;
y1 = 3;   x1 = 5 - 3= 2;
y2= 2;     x2 = 5 - 2 = 3.
ответ (2; 3); (3;2)