(6х² - 4ху - у в квадрате ) - * = 4х² + у в квадрате

Для того, что бы найти вычитаемое  нужно из уменьшаемого вычесть разность, получим выражение:

(6x^2 - 4xy - у^2) - (4x^2 + y^2).

Раскроим скобки и приведем подобные слагаемые:

6x^2 - 4xy - у^2 - 4x^2 - y^2 = 2x^2 - 4xy.

Ответ: выражение обозначенное * имеет вид 2x^2 - 4xy.