Найдите значения. , если моё решение(половина решения) (cos5a-cos5a они же уничтожаются, можно без разложения по формуле решить? ) не уверен в правильности подхода последнего. или надо было выразить так: в книге ответ равен 0,2

Похоже тут опять опечатка)))
видимо второе слагаемое НЕ косинус от (5а), а косинус от (3а)...
и тогда слагаемые -cos(3a)+cos(3a) действительно уничтожатся)))
и тогда ответ из книги получится...