Para comenzar, debes tener en cuenta la identidad de transformación en producto de la suma de dos senos:
sena + senb = 2*sen( (a+b)/2 )*cos( (a-b)/2 ),
luego sustituyes expresiones (a =3x, b = x) en el primer miembro, y queda:
2*sen(2x)*cosx = cos(2x).
Luego, debes tener en cuenta las identidades del seno y del coseno del doble de un ángulo:
sen(2x) = 2*senx*cosx,
cos(2x) = cos2x - sen2x,
luego, sustituyes expresiones, y queda:
2*2*senx*cosx*cosx = cos2x - sen2x,
reduces y reduces factores en el primer miembro, y queda
4*senx*cos2x = cos2x - sen2x.
Luego, debes tener en cuenta la identidad del cuadrado del coseno en función del cuadrado del seno:
cos2x = 1 - sen2x,
luego, sustituyes y la ecuación queda:
4*senx*(1 - sen2x) = 1 - sen2x - sen2x,
distribuyes en el primer miembro, reduces términos semejantes, y queda:
4*senx - 4*sen3x = 1 - 2*sen2x.
Luego, puedes plantear la sustitución (cambio de incógnita):
w = senx (1) (observa que w toma valores comprendidos entre -1 y 1),
luego sustituyes, y queda:
4*w - 4*w3 = 1 - 2*w2, haces pasajes de términos, ordenas términos, y queda:
-4*w3 + 2*w2 + 4*w - 1 = 0, multiplicas por -1 en todos los términos de la ecuación, y queda:
4*w3 - 2*w2 - 4*w + 1 = 0,
que es una ecuación polinómica cúbica, que puedes resolver con la Fórmula de Cardano, de la que tienes un vídeo aquí en Unicoos.
Espero haberte ayudado.