а в квадрате минус b в квадрате минус a икс минус аb

в конце книги есть ответы там написано (x-b) (x+b-a

Попробуем раскрыть скобки ответа х²-b²-ax-ab Я же говорю, что опечатка в условии. Не а² первое слагаемое х². Проверяйте

и последнее не минус ab, а + ab

x²-b²-ax+аb=(x-b)(x+b)-a(x-b)=(x-b)(x+b-a)