Вместо звездочки запишите такой многочлен,чтоб получилась тотожность.
(5a³ - 2ab + 6b) - ( * ) = 4a³ + 8b

Наверное, тождественность.

Вместо (*) надо написать:

a^3-2ab-2b

^ - возведение в степень.

Тогда, раскрыв скобки, получим правую часть.

Многочлены отличаются на 2ab, a^3 и 2b

Искомый многочлен имеет вид: a^3 - 2ab - 2b