Решите систему через Дискриминант :
(х-3)²>0
х²-11х<0

x²-6x+9=0   √D=√36-36=0    больше 0 кроме х=3   х≠3х²-11х+0=0   √D=√121-0=√121 =11   x1=0  x2=110<x<11система имеет решение при х (0;3)∪(3;11)