3sin^2(x) + 7cos(x) - 3 = 0

Большое спасибо! У меня вышло так же, смутило отсутствие решения во втором случае

Да не за что. В таких примерах очень часто в одном случае решения нет (синус или косинус получаются больше 1 по модулю). Так что не пугайся больше этого)

3(1 - cos²(x)) + 7cos(x) - 3 = 0

-3cos²(x) + 7cos(x) = 0
_
| cos(x) = 0
|
| cos (x) = 7/3 - бред
_

cos(x) = 0 => x = π/2 + πn, n ∈ ℤ