можно ли из квадратной скобки вынести общий множитель за скобку например, из скобки (3a-3b)^2 вынести 3?

Чтобы вынести общий множитель за скобки у линейного двухчленна, возведённого в квадрат, необходимо воспользоваться определением понятия степени:

(3 ∙ a – 3 ∙ b)² = (3 ∙ a – 3 ∙ b) ∙ (3 ∙ a – 3 ∙ b) = 3 ∙ (a – b) ∙ 3 ∙ (a – b) = 3 ∙ 3 ∙ (a – b) ∙ (a – b) = 3² ∙ (a – b)² = 9 ∙ (a – b) ².

Или можно использовать свойство возведения в степень произведения двух выражений:

(3 ∙ a – 3 ∙ b)² = (3 ∙ (a – b))² = 3² ∙ (a – b)² = 9 ∙ (a – b) ².