Рассмотрим треугольник АВС:
∠АВС = 90°, АС = 2АВ, значит ∠АСВ = 30° по свойству катета, лежащего напротив угла в 30°.
Тогда ∠ВАС = 90° - ∠АСВ = 90° - 30° = 60°, так как сумма острых углов прямоугольного треугольника равна 90°.
Диагонали прямоугольника равны и точкой пересечения делятся пополам, значит
АО = ОВ, т.е. ΔАОВ равнобедренный и углы при основании равны:
∠ОАВ = ∠ОВА = 60°, тогда
∠АОВ = 180° - (∠ОАВ + ∠ОВА) = 180° - (60° + 60°) = 60°.
∠ВОС = 180° - ∠АОВ = 180° - 60° = 120° по свойству смежных углов.
Стороны квадрата "отрезают" от исходного треугольника два прямоугольных треугольника, подобных ему. Можно взять любой из них, и из пропорций, следующих из подобия, определить сторону квадрата.
Если обозначить сторону квадрата а, то стороны одного из "отрезанных" треугольеников 3 - x и x, а соответствующие стороны исходного треугольника 3 и 5, поэтому
(3 - x)/x = 3/5; 15 - 5*x = 3*x; x = 15/8; ну, а периметр квадрата 4*х = 15/2;
В общем случае, если катеты a и b, то P = 4*a*b/(a + b); это выражение симметрично относительно а и b, поэтому ответ в задаче, конечно же, не зависит от того, какой из двух "отрезанных" треугольников использовать. :)