ABC-треугольник, AB=3 BC=5 CA=7, точка О центр вписанной в треугольник окружности. Разложите вектор CO по векторам b=AB и a=AC.

Пусть биссектриса АО пересекает стороны ВС в точке М. Прежде, чем раскладывать, вычислим ВМ и СМ. Ясно, что ВМ/СМ = 3/7; ВМ + СМ = 5;

отсюда ВМ = 7/2; СМ = 3/2; (и, что важнее всего! -) СМ = СВ*7/10

Применяя свойство биссектрисы к треугольнику СМА (биссектриса СО), получаем

МО/АО = СМ/АС = 1/2;

(на самом деле, это можно было бы сразу записать, если известно свойство точки пересечения биссектрис. Фактически я это свойство вывел)

АО = АМ*2/3;

Вот теперь можно заняться векторами.  Жирным шрифтом обозначены векторы, а обычными буквами (если где-то встретятся)- их модули

СВ = АВ - АС = b - a;

CM = (7/10)*(b - a);

АМ = АС + СМ = a + (7/10)*(b - a) = a*3/10 + b*7/10;

AO = AM*2/3 = (a*3/10 + b*7/10)*2/3 = a/5 + b*7/15;

И, наконец,

СО = АO - АC = a/5 + b*7/15 - a  = (-4/5)*a + (7/15)*b;

На самом деле, СО - это вычурный выбор, интересно именно АО. Точно тем же способом можно получить очень красивое выражение для АО в общем виде

АО = (a*b + b*a)/(a + b + c)