Ctgα-5-(sin2α+cosα/1+sinα-cos2α)

С начало упростим дробную часть выражения:(sin2a + cosa)/(1 + sina - cos2a) = (2 * cosa * sina + cosa)/(1 + sina - 1 + 2 * sin^2a) == (cosa * (2 * sina + 1))/(sina * (1 + 2 * sina)) = cosa/sina = ctga;Упрощенную часть подставляем в выражение, получаем:ctga - 5 - ctga = -5