Решите систему уравнений
(3x-8y)^2=x,
(3x-8y)^2=y

V=(40-X)(64-X)X - функция.
найти максимум, х∈(0, 40).
найдем производную от V=(40-X)(64-X)X=х³-104х²+2560х
она равна 3х²-208х+2560
найдем стационарные точки , приравняв производную к 0 , и решив кв. ур-ние             3х²-208х+2560=0
1)  х=(104+√(104²-3·64·40))/3=(104+√((8·13)²-3·64·40)))/3=
=(104+√(8²(13²-3·40)))/3=(104+8√(13²-3·40))/3=(104+8√(169-120))/3=
=(104+8·7)/3=160/3

2) х=(104-√(104²-3·64·40))/3=(104-56)/3=16
ОСТАЛОСЬ по достаточному условию экстремума убедиться, что  х=16 - точка максимума, проверяем знаки производной при переходе через эту точку, решаем неравенство 3х²-208х+2560>0, или простыми вычислениями для значений х из соответствующих промежутков.)

вот как-то так...-))

Число при делении на 5 дает в остатке 3 только если оно заканчивается на 3 или на 8. Докажем что ни одно целое число в квадрате не заканчивается ни на 3, ни на 8.

если число закачивается на 0, то в квадрате оно  заканчивается на 0
если число закачивается на 1, то в квадрате оно  заканчивается на 1
если число закачивается на 2, то в квадрате оно  заканчивается на 4
если число закачивается на 3, то в квадрате оно  заканчивается на 9
если число закачивается на 4, то в квадрате оно  заканчивается на 6
если число закачивается на 5, то в квадрате оно  заканчивается на 5
если число закачивается на 6, то в квадрате оно  заканчивается на 6
если число закачивается на 7, то в квадрате оно  заканчивается на 9
если число закачивается на 8, то в квадрате оно  заканчивается на 4
если число закачивается на 9, то в квадрате оно  заканчивается на 1

все, вариантов не осталось. Доказано.