(1-2sinx*cosx\sinx-cosx)+cosx

Вероятно, следовало расставить скобки следующим образом:
((1-2sinx*cosx)\\(sinx-cosx))+cosx;
Рассмотрим сначала дробь. Представим единицу как сумму квадратов синуса и косинуса:
((sin x)^2+(cos x)^2-2sinx*cosx)/(sinx-cosx);
Числитель дроби представляет собой квадрат суммы:
((sin x)^2-2sinx*cosx+(cos x)^2)/(sinx-cosx);
Сокращаем на выражение sinx-cosx числитель и знаменатель:
(sinx-cosx)^2/(sinx-cosx)=sinx-cosx;
Причем, если бы это было тригонометрическим уравнением, сокращать было бы нельзя, так как из-за такого действия теряются корни.
Прибавляем cosx:
sinx-cosx+cosx=sinx.
Ответ: sinx.