Найдите произведение ab, если а+b=6 и а^2+ b^2=20

A=6-b

заменяем во втором выражении a

(6-b)^2+b^2=20
36-12b+b^2+b^2-20=0
2b^2-12b+16=0
b^2-6b+8=0
b=4 или b=2
тогда a=2 или a=4

a*b=2*4=8