Решим задачу в общем случае. Обозначим число сторон в основании призмы за n. Тогда призма имеет n граней и 2n вершин.Вероятность рассчитывается как отношение числа благоприятных исходов к общему числу исходов.Найдем общее число исходов: выбрать 3 вершины из 2n имеющихся можно

способами.Найдем число благоприятных исходов как разность общего числа исходов и числа неблагоприятных исходов. Общее число исходов известно, теперь находим число неблагоприятных исходов.Если все выбранные вершины лежат на боковой грани или на основании, то образовавшееся сечение не будет содержать точек строго внутри призмы. Число способов выбрать три вершины боковой грани равно

, так как призма имеет n боковых граней, и в каждой грани расположено 4 вершины. Число способов выбрать три вершины основания равно

, так как призма имеет всего два основания и в каждом из этих оснований расположено n вершин.Получаем общее число неблагоприятных исходов:

. Тогда число благоприятных исходов равно
)
.Находим искомую вероятность:
= \dfrac{C_{2n}^3-(4n+2C_n^3)}{C_{2n}^3} =1- \dfrac{4n+2C_n^3}{C_{2n}^3} )
Для одиннадцатиугольной призмы, то есть для n=11, получаем:
= 1- \dfrac{4\cdot11+2C_{11}^3}{C_{22}^3} =1- \dfrac{44+2\cdot \frac{11\cdot10\cdot9}{1\cdot2\cdot3} }{ \frac{22\cdot21\cdot20}{1\cdot2\cdot3} } = 1- \dfrac{44+11\cdot10\cdot3 }{11\cdot7\cdot20 } = \\\ =1- \dfrac{44+330 }{1540} =1- \dfrac{374}{1540} =\dfrac{1166}{1540}=\dfrac{53}{70} \approx0.76)
Ответ: 0.76