Якщо пряма альфа перпендикулярна до площини альфа і перетинає площину у точці А , а пряма В лежить у площині альфа і проходить через точку А , то кут між прямими А і В дорівнює

(x^3-x^2+x)/(x+8)<0
Найдем нули числителя:
x^3-x^2+x=x(x^2-x+1).
Найдем нули выражения в скобках:
x^2-x+1=0,
D=(-1)^2-4*1*1=-3 - действительных корней нет. Это значит, что выражение (x^2-x+1) на знак левой части неравенства не повлияет, и можно смело на него разделить всю дробь. То есть будет x/(x+8)<0.
Нули числителя: x=0,
Нули знаменателя: x=-8.
Решением неравенства будет интервал x∈(-8;0), поскольку при x < -8 левая часть неравенства больше 0; при x=-8 значение x/(x+8) не определено; при x >= 0 x/(x+8) >=0

Решим задачу в общем случае. Обозначим число сторон в основании призмы за n. Тогда призма имеет n граней и 2n вершин.
Вероятность рассчитывается как отношение числа благоприятных исходов к общему числу исходов.
Найдем общее число исходов: выбрать 3 вершины из 2n имеющихся можно 
Найдем число благоприятных исходов как разность общего числа исходов и числа неблагоприятных исходов. Общее число исходов известно, теперь находим число неблагоприятных исходов.
Если все выбранные вершины лежат на боковой грани или на основании, то образовавшееся сечение не будет содержать точек строго внутри призмы. Число выбрать три вершины боковой грани равно , так как призма имеет n боковых граней, и в каждой грани расположено 4 вершины. Число выбрать три вершины основания равно , так как призма имеет всего два основания и в каждом из этих оснований расположено n вершин.
Получаем общее число неблагоприятных исходов: . Тогда число благоприятных исходов равно .
Находим искомую вероятность:

Для семиугольной призмы, то есть для n=7, получаем:

ответ: 0.73