Расскройте скобки:
(X-4)^2-8x^2+(x-1)*(2+x)

   x^2 - 8x + 16 - 8x^2 + (x - 1)(x + 2) == x^2 - 8x + 16 - 8x^2 + x^2 + x - 2 = = - 6x^2 - 7x + 14