Пожалуйста, обьясните по каким правилам 6 превратилась в 6sin^2(x)-6cos^2(x)

Во первых, не 6, а -6.

-6sin²x - 6cos²x = -6*(sin²x + cos²x) = -6, т.к. sin²x + cos²x = 1 -- основное тригонометрическое тождество.