Вы говорите, что линия дана как уравнение в 3D, но на самом деле плоскости задаются уравнениями. И поскольку говорят, что линия лежит в трехмерной плоскости, предположительно заданной другим уравнением, линия фактически является пересечением двух плоскостей.
Чтобы получить вектор направления линии, возьмите перекрестное произведение нормалей на две плоскости. Если вы используете метод Павла, вам это не нужно.
Чтобы получить точку на линии, выберите какое-то значение для x, скажем, x = 0. Затем решите два уравнения для y и z после включения этого значения. Чтобы найти другую точку для использования в методе Павла, установите для x другое значение, скажем, x = 1, и снова решите систему.
Если линия ориентирована неправильно (перпендикулярно оси x), x может быть фиксированным значением. В этом случае попробуйте установить y в два фиксированных значения. Если это все еще не работает, попробуйте z. Также убедитесь, что исходные плоскости не параллельны, так что на самом деле есть линия пересечения.
Чтобы решить вопрос без метода Павла, пересечь направление линии с вектором, образованным данной точкой, и точкой, найденной на линии. Теперь скрестите этот результат с направлением линии, чтобы получить новый вектор. Точка этого вектора с исходной точкой и снова с точкой на линии. Возьмите разницу и разделите на длину вектора.