Почему вектор угловой скорости направлен вдоль оси вращения?

На самом деле угловая скорость (как и ряд других физических величин, к примеру магнитное поле) не вектор, а антисимметричный тензор 2-го ранга. Но такой тензор имеет 3 существенных параметра, так что его можно ради простоты заменить вектором (как говорят, дуальным тензору). Но это не настоящий вектор, а так называемый псевдовектор, или аксиальный вектор. Его природа - не направленный отрезок, а ориентированная площадка. Угловой скорости отвечает как бы площадь в плоскости вращения. Для единообразия ее изображают тоже "вектором", нормальным к этой площадке. Короче примите это как особенность математики.