Пусть у некоторой правильной пирамиды известно боковое ребро . Давайте посчитаем при какой дине стороны основания пирамиды будет обладать наибольшим объемом.

Теперь это функция от . Возьмем производную по . Она зануляется при и в этой точке производная меняет свой знак с + на -. Значит это точка максимума и объем максимальный при .

Вернемся к задаче. Пирамида, вершинами которой служат точки касания и центр сферы, является правильной треугольной пирамидой с ребром . Значит, чтобы объем был максимальным, нужно добиться того, чтобы сторона ее основания была .

Из точек и проведем перпендикуляры к , в силу симметрии они попадут в одну точку .

По доказанному ранее и при этом . Значит , но тогда угол прямой, а его нам и нужно было найти.