Числитель - сворачивается в квадрат разности, знаменатель - это разность квадратов.
Сворачивая по формуле квадрата разности числитель, и наоборот расписывая по разности квадратов знаменатель получаем вышесказаное выражение, далее, выносим минус за скобки, и в одной из скобок знаменателя меняем знак на противоположный, тем самым имеем право сократить с числителем. Далее, минус вносим в дробь, меняя знаки в числителе. Выходим на ответ.
Либо есть более короткий вариант решения, но тут нужна внимательность:
Т.к. это квадрат разности (В числителе) имеем право поменять местами 36c^2 и 25, сохраняя знаки. Свернется в тот-же самый квадрат разности, но нет заморочек с минусом.
Правильное условие такое:
У брата х груш, а у сестры у² яблок. Вместе у них было 11 этих фруктов. Если бы у брата было у груш, а у сестры -х² яблок, то всего этих фруктов у них было бы 7. Сколько было груш и сколько было яблок?
Решение.
ОДЗ: 
Методом подбора быстрее.
1) Начнем с решения второго уравнения.
Если 
то 7-1=6. Тогда 
не натуральное число.
Если 
то 7-2=5. Тогда 
не натуральное число.
Если 
то 7-3=4. Тогда 
натуральное число.
Получили решение
2) Подставим в первое уравнение 
.
верное равенство.
ответ: 2 груши у брата;
3 яблока у сестры.
