3x^2+40x+10

1. Перенесем все значения неравенства из правой части в левую. Получаем:
3 * x^2 + 40 * x + 10 + x^2 − 11 * x − 3 < 0;
4 * x^2 + 29 * x + 7 < 0;
2. Решаем квадратное уравнение:
4 * x^2 + 29 * x + 7 = 0;
D = 29^2 - 4 * 4 * 7 = 841 - 112 = 729 = 27^2;
x1 = (- 29 + 27) / 2 * 4 = - 1/4;
x2 = (- 29 - 27) / 2 * 4 = - 7;
3. Наносим точки на ось и вычисляем знаки на промежутках:
ссылка на рисунок - http://bit.ly/2tiL8R8;
x ∈ (- 7;- 1/4) или - 7 < x < - 1/4;
4. Ответ: x ∈ (- 7;- 1/4) или - 7 < x < - 1/4.