Найти единичный вектор с, который ортогонален к векторам p и q, если вектор с образует острый угол с осью Оу.
вектор p = (1; 0; 2)
вектор q = (0; 1; 1)

Пусть искомый веатор имеет координаты x,y,z. Условие ортогональности дает систему

x+2z=0

y+z=0. Решаем и находим, что x=-2z, y=-z.

Так как длина должна равняться 1, то x^2+y^2+z^2=1, то есть,

6z^2=1, z=минус корень квадратный из одной шестой, знак выбран минус, так как угол между вектором и осью Оу острый, то есть у должен быть положительным.

Искомый вектор (минус два поделить на корень из 6, один поделить на корень из 6, минус один роделить на корень из 6.