5cos2x+3sinxcos2x=0

5cos^2x + 3sinxcosx=1 (разложим еденицу)

5cos^2x + 3sinxcosx - sin^2x - cos^2x = 0 (приведём подобные)

4cos^2x + 3sinxcosx - sin^2x = 0 (поделим на кос квадрат икс)

tg^2x - 3tgx -4 = 0

Пусть tgx = t , тогда

D = 9 + 16 = 25

t(1) = (3 - 5)\2 = -1

t(2) = (3 + 5)\2 = 4

1) tgx = -1

x = -пи\4 + пи*n

2) tgx = 4

x = arktg4