Сравните
cos 3Π/7 и cos 2Π/7

Косинус - функция, монотонно убывающая на промежутке от нуля до ПИ/2,  куда и попадают обе указанные точки. Т.о. чем точка ближе, к Пи\2, тем значение косинуса меньше. Очевидно, что 3пи/7 > 2пи/7, поэтому косинус от 2пи/7 больше.