исследуйте зависимость числа диагоналей d выпуклого многоугольника от числа его сторон (n) результаты занести в таблицу.
n: 4,5,6,7,8,9,10,11,12
d: 2,5

будет n(n-3)/2, т. к. из каждой вершины можно провести n-3 диагонали, всего вершин n, и каждая диагональ при этом посчитается 2 раза...