найти угол между прямыми,направляющие вектора которых равны n1=5i-2j+k , n2=-i+3j-2k

Ошибка в конце решения - скалярное произведение берётся по модулю. Тогда cos a = 13/V420 = 13/(2*sqrt(105)) = 0.634335047

Не надо по модулю. Впрочем, это не важно. Косинус четная функция. А вот дальше стал упрощать запись ответа с арифметической ошибкой- это зря!) Поправить не знаю как. Надо к модератору обращаться, а по пустякам неохота. Автору вопроса : Вместо 7,5 надо писать 6,5 !

косинус угла раве скалярному произведению векторов деленному на произведение их длин.  Скалярное произведение -5-6-2=-13Квадрат длины первого вектора 25+4+1=30Второго 1+9+4=14Произведение квадратов длин 420корень из произведения 2*sqrt(105)Косинус искомого угла  -13/2/sqrt(105)=-7,5*sqrt(105)/105=-15*sqrt(105)/210=-sqrt(105)/14  Косинус функция четная, значит :Искомый угол равен arccos(sqrt(105)/14)