x^2+(m-3)x+m^2-6m-9.75=0x^2+(m-3)x+m^2-6m+9-18.75=0x^2+(m-3)x+(m-3)^2-18.75=0D=(m-3)^2-4*((m-3)^2-18.75)=75-3*(m-3)^2=3*(5^2-(m-3)^2)решения действительны значит D>=0 значит -5 <= m-3 <= 5 значит -2 <= m <= 8причем при m=-2 и m=8 имеем по одному корню вместо двухтеперь т.Виеттаx1+х2=-(m-3)x1*x2=(m-3)^2-18.75x1^2+х2^2=(x1+х2)^2-2*x1*x2 = (m-3)^2-2(m-3)^2+2*18.75 = 37,5-(m-3)^2поиск минимума функции f(m) = 37,5-(m-3)^2 на участке [-2;8] дает результат что 37,5-(m-3)^2 принимает максимальное значение при m=3 и равно 37.5и что 37,5-(m-3)^2 принимает минимальное значение при m=-2 и m=8 и оно равно 13заметим также что при m=-2 корень единственный х=-(m-3)/2=2,5; и сумма квадратов корней x^2=6,25и при m=8 тоже корень единственный х=-(m-3)/2=-2,5; и сумма квадратов корней x^2=6,25из вариантов m=-2 и m=8 выбираем максимальный m=8 - это ответ