может ли отношение сторон четырехугольника быть равным отношению 3:1:5:11?

Нет, не может.

Одна сторона не может быть больше суммы остальных сторон 11 > 3+1+5=9

сумма трех сторон четырехугольника не может быть меньше четвертой.

(3+1+5=9 <11)

Следовательно, нет.