Данное уравнение - линейное неоднородное. Соответствующее однородное уравнение имеет вид

.Характеристическое уравнение имеет вид

.Оно имеет комплексные сопряженные корни

, значит общее решение однородного уравнения имеет вид

.Будем искать общее решение неоднородного уравнения в виде
cosx + C_2(x)sinx)
,где
,C_2(x) )
- некоторые пока неизвестные функции. Составим систему, из которой мы сможем найти эти неизвестные функции:
cosx + C_2'(x)sinx = 0} \atop {-C_1'(x)sin(x)+C_2'(x)cosx=-ctg^2(x)}} ight. )
Определитель данной системы равен:

.Дополнительные определители равны:
} = \left\begin{vmatrix}0&sinx\\-ctg^2x&cosx\end{vmatrix}ight = ctg^2x*sinx = \frac{cos^2x}{sinx} \\ \Delta_{C'_2(x)} = \left\begin{vmatrix}cosx&0\\-sinx&-ctg^2x\end{vmatrix}ight = -cosx*ctg^2x = -\frac{cos^3x}{sin^2x} )
.Решение системы таково:
= \frac{\Delta_{C'_1(x)}}{W} } \atop {C'_2(x)= \frac{\Delta_{C'_2(x)}}{W}}} ight. \\ \left \{ {{C'_1(x)= \frac{cos^2x}{sinx}} \atop {C'_2(x) = -\frac{cos^3x}{sin^2x}}} ight.)
.Это производные, а нам нужны сами функции. Значит ищем интегралы:
 = \int{\frac{cos^2x}{sinx}} \, dx = \int{\frac{1-sin^2x}{sinx}} \, dx = \int{\frac{dx}{sinx}}-\int{sinx}} \, dx =)
}{sin^2x}} \, dx + cosx =\int{\frac{d(cosx)}{cos^2x-1}} \, dx + cosx = \frac{1}{2} ln| \frac{cosx-1}{cosx+1} | + cosx + C_1)
.
 = -\int{ \frac{cos^3x}{sin^2x}} \, dx = -\int{ \frac{cos^2xd(sinx)}{sin^2x}} = \int{ \frac{sin^2x-1}{sin^2x}}\,d(sinx) = \int{d(sinx)})
}{sin^2x}} = sinx + \frac{1}{sinx} + C_2)
, где

- произвольные константы.Осталось только записать решение в общем виде:
cosx + (sinx + \frac{1}{sinx} + C_2)sinx)
.При желании можно преобразовать полученный ответ.