10 sin^2x+5sinxcosx+cos^2x=3

10sin^2x+5sinxcosx+cos^2x-3*1=0

10sin^2x+5sinxcosx+cos^2x-3(cos^2x+sin^2x)=0

10sin^2x+5sinxcosx+cos^2x-3cos^2x-3sin^2x=0

7sin^2x+5sinxcosx-2cos^2x=0 |: cos^2x не равно 0; х не равен п/2+Пn, n Є Z

7tg^2x+5tgx-2=0

Пусть tgx=m, 

7m^2+5m-2=0

D=25+56=81

m=(-5-9)/14=-1

m=(-5+9)/14=2/7

Если m=-1, то tgx=-1

x=arctg(-1)+Пs, sЄZ

x=-arctg1+Пs, sЄZ

x=-П/4+Пs, sЄZ

Если m=2/7, то tgx=2/7

x=arctg2/7+Пk, kЄZ

Ответ:-П/4+Пs, sЄZ; arctg2/7+Пk, kЄZ