(А*sina+B*cosa)^2+(A*cosa-B*sina)^2

(А * sina + B * cosa)^2 + (A * cosa - B * sina)^2; 

A^2 * sin^2a + 2AB * sina * cosa + B^2 * cos^2a + A^2 * cos^2a - 2AB * cosa * sina + B^2 * sin^2a;  

Сокращаем выражение 2AB * sina * cosa с двух сторон уравнения. 

A^2 * sin^2a  + B^2 * cos^2a + A^2 * cos^2a + B^2 * sin^2a; 

(A^2 * sin^2a + A^2 * cos^2a) + (B^2 * cos^2a + B^2 * sin^2a); 

Вынесем буквенные выражения за скобки. В первой скобке выносим переменную а за скобки, а во второй переменную b. 

A^2 * (sin^2a + cos^2a) + B^2 * (cos^2 a + sin^2a); 

Используем основное тождество sin^2a + cos^2a = 1. 

A^2 + B^2; 

Ответ: A^2 + B^2.