Пусть точка — центр , а — центр окружности основания конуса. . Продлим стороны до пересечения в точке . Введём прямоугольную декартовую систему координат, как на рисунке: — начало координат, ось направим вдоль , вдоль , вдоль .

Сделаем гомотетию с центром в точке так, чтобы центр окружности перешёл в точку . Сама же точка

Найдём уравнение плоскости , содержащую окружность конуса с центром в точке . Так как — служит осью конуса, то в качестве вектора нормали возьмём .

Так как , то

Найдём уравнение плоскости :

Возьмём в качестве , тогда получим

Найдём уравнение прямой :

Сложив первое уравнение, умноженное на , со вторым и, выразив , получим . Откуда можно подставить в первое уравнение и выразить . Тогда уравнение прямой в параметрическом виде:

Её направляющий вектор .

Пусть — точка касания окружности с плоскостью , тогда лежит на прямой , , :

Тогда

Уравнение плоскости :

Найдём уравнение прямой :

Подставляя во второе уравнение и выражая x, получим параметрическое уравнение прямой :

Её направляющий вектор .

Пусть — точка касания окружности с плоскостью , тогда лежит на прямой , ,

В силу симметрии картинки относительно плоскости , если окружность касается плоскости , то она будет касаться и плоскости , поэтому для касания всех трёх плоскостей, содержащих граней необходимо и достаточно выполнения уравнения:

Тогда

Рассмотрим