Как сделать это?
Желательно подробным описанием.

Вектор АД = в - а, вектор ДА = а - в.Вектор ДС = ДА + АС = -АД + АС = а - в + 2в = а + в.Вектор DN = (2/3) DC = (2/3)(a+b).Тогда искомый вектор  AN = AD + DN = =(b - a) + (2/3)(a+b)= (5/3)b - (a/3).Вектор OM = -b + AD + DM = -b +b - a + (a + b)/3 = (b - 2a)/3.