

Используем два факта:
1) Если три последовательных числа являются членом арифметической прогрессии, то среднее является средним арифметическим:

2) То же самое с геометрической прогрессией — там средним геометрическим:

Поработаем со вторым уравнением, используя первое:

Первое уравнение нам больше не нужно. Упростим уравнения (2) и (3):

Используем обратную теорему Виета, где второй член равен сумме корней, взятой со знаком минус, а третий член — произведению:

Я сразу по теореме Виета вижу корни:
,
. Можете решить через дискриминант.
В итоге получили, что
либо
(ещё из условия было видно, что обе прогрессии симметричны относительно убывания/возрастания).
ответ: 18, 5, 2 либо 2, 5, 18.