(a+b)b-(a^2+b^2)(a-2)

ав+в²-(a³-2а²+ав²-2в²)

ав+в²-а³+2а²-ав²+2в²

ав+3в²-а³+2а²-ав²

1) раскрываешь скобки

ab+b^2-(a^3-2a^2+ab^2-2b^2) = ab+b^2-a^3+2a^2-ab^2+2b^2

2) приводишь подобные

ab+3b^2-a^3+2a^2-ab^2  

как-то так, я думаю