(2b+a)*(a-2b)-(2b+a)

=(2 b+a)(a-2b-1) Вынесли за скобки общий множитель (2b+a)

Если нужно раскрыть скобки, то вот:
(2b+a)*(a-2b)-(2b+a)=(a+2b)*(a-2b)-(2b+a)=a²-4b²-2b-a

Если нужно было разложить на множители, то так:

(2b+a)*(a-2b)-(2b+a)=(2b+a)(a-2b-1)