Представьте в виде произведения трех множителей многочлен

x^2y-bx^2-axy+abx

x²y - bx² - axy + abx = (x²y - bx²) - (axy - abx) = x²(y - b) - ax(y-b) == (y-b)(x² - ax) = x(x - a)(y - b)