cos^2x−3sin^2x=−sin2x

Переносим все направо

0 = 3sin^2 x - 2sin x*cos x - cos^2 x

Очевидно, cos x не равен 0, иначе sin^2 x = 1; 3sin^2 x = 3.

Делим всё на cos^2 x.

3tg^2 x - 2tg x - 1 = 0

(tg x - 1)(3tg x + 1) = 0

x1 = arctg(1) + pi*n = pi/4 + pi*n, n € Z

x2 = - arctg(1/3) + pi*k, k € Z