Sin² x+ 2 sin x cos x - 3 cos² x= 0

Воспользовавшись основным тригонометрическим тождеством, получим уравнение:

2sin^2(x) - 2cos^2(x) + 2sin(x) * cos(x) - 1 = 0.

Используя формулы двойного аргумента получаем:

-2cos(2x) + sin(2x) = 1;

sin(2x) - cos(2x) = -1/2.

Домножим уравнение на  √2/2:

√2/2 * sin(2x) - √2/2 * cos(2x) = -√2/4;

Используя формулу синуса разности, получим:

sin(2x - π/4) = -√2/4;

2x  - π/4 = arcsin(-√2/4) +- 2 * π * n, где n - натуральное число;

x = 1/2arcsin(-√2/4) + π/8 +- π * n.