При каких значениях a возможно равенство cosx=-1-a^2

Только при a = 0, поскольку при всех остальных значениях параметра a cosx будет меньше 1, а по определению косинуса(равно как и синуса) область значений