вынесите множитель из под корня
11 а*2 (это выражениЯ если что полность в корне)
-а*7

\sqrt{11a^{2}-a^{7}}

\sqrt{a^{2}(11-a^{5})}

a*\sqrt{(11-a^{5})}