Придумал вам другой способ вывести эту формулу. Просуммируем по k=1,2,..,n верное тождество (k+1)^3-k^3=k(3k-1)+(4k+1). В левой части все слагаемые, кроме первого и последнего сокрятятся и получим (n+1)^3-1=(1*2+2*5+...+n*(3n-1))+(2n+3)n. Значит 1*2+2*5+...+n*(3n-1)=(n+1)^3-1-(2n+3)n=n^3+n^2.