Перепишем:
-a^2+2a^2b+\\-6ab-6b+15\leqslant 0)
В левой части неравенства угадывается формула квадрата суммы, всё, что осталось, переносим в правую часть.
^2\leqslant -(2b-1)a^2+6ab+6b-15)
Если нужно, чтобы у неравенства не было решений, правая часть должна была отрицательной:
a^2+6ab+6b-15<0\\(2b-1)a^2-6ab+15-6b > 0)
Вспоминаем, что нужно найти такие b, чтобы такое неравенство выполнялось при всех a. Относительно a левая часть либо линейная функция (при b = 1/2), либо квадратичная.Разбираем случаи:1) b = 1/2. Тогда при всех a должно быть так:

Понятно, что это выполняется не при всех a, так что b = 1/2 в ответ входить не должно.2) b не равно 1/2. Квадратный трёхчлен
a^2-6ab+15-6b)
должен принимать только положительные значения. Как известно, так будет, если: 1. Коэффициент при a^2 положительный и 2. Дискриминант отрицательный.Первое условие:

Второе условие:
(2b-1) < 0\\21b^2-36b+15 < 0\\7b^2-12b+5 < 0\\b\in\left(\dfrac57,1ight))
Окончательно 5/7 < b < 1