2sin^2x + 5cosx = -1

уравнение сводится к квадратному.
По основному тригонометрическому тождеству, sin^2 x + cos^2 x = 1, откуда sin^2 x = 1 - cos^2 x.
Подставляем и получаем:
2(1 - cos^2 x) + 5cos x = -1
пусть cos x = t, |t|<=1
2(1 - t^2) + 5t = -1
2 - 2t^2 + 5t + 1 = 0
-2t^2 + 5t + 3 = 0
2t^2 - 5t - 3 = 0
D = 25 + 24 = 49
t1 = (5 - 7) / 4 = -1/2
t2 = (5+7)/4 = 3
Второе t условию не удовлетворяет, поскольку cos x не может выйти по модулю за рамки единицы.
Получаем уравнение:
cos x = -1/2
x = +-2пи/3 + 2пиn
Это ответ.