(3a)(a-b)-(a+b)(3a-b)=

Упростим выражение (3 * a) * (a - b) - (a + b) * (3 * a - b). 

Раскроем скобки и приведем подобные значения. 

(3 * a) * (a - b) - (a + b) * (3 * a - b) = 3 * a * a - 3 * a * b - (a * 3 * a - a * b + 3 * a * b - b * b) = 3 * a^2 - 3 * a * b - (3 * a^2 + 3 * a * b - a * b - b^2) = 3 * a^2 - 3 * a * b - 3 * a^2 - 3 * a * b + a * b + b^2 =  -3 * a * b - 3 * a * b + a * b + b^2 = a * b * (-3 - 3 + 1) + b^2 = -5 * a * b + b^2 = b^2  - 5 * a * b.  

В итоге получили,  (3 * a) * (a - b) - (a + b) * (3 * a - b) = b^2  - 5 * a * b.