Вам нужно найти точку на «вертикальной» линии вниз по центру усеченного конуса, где расстояние до ребра в нижней части и верхушке усеченного конуса (при условии, что оно симметрично) одинаково.
решить так, чтобы точка внизу была Xb, Yb, Zb, точка сверху - Xt, Yt, Zt, а линия - это точка Xp, Yp, Zp плюс вектор Ax, By, Cz.
так что решите уравнение
sqrt( (Xb - (Xp + VAx) )^2 + (Yb - (Yp + VBy))^2 + (Zb - (Zp + VCy))^2) =
sqrt( (Xt - (Xp + VAx) )^2 + (Yt - (Yp + VBy))^2 + (Zt - (Zp + VCy))^2).
Единственной переменной там является скалярное значение V.