〖sin〗^2 x-2sinx*cosx-3〖cos〗^2 x=0

Уравнение однородное, делим почленно на(cosx)^2,( tgx)^2-2tgx-3=0, tgx=t,

t^2-2t-3=0, t1=3, t2=-1, x1=arctg3 +ПИ*к, x2=-ПИ/4+ПИ*к, к-целое.