Если выше или ниже плоскости, на которой будет лежать многоугольник, вы можете сравнить точечное произведение точки на плоскость, нормаль и точку любой точки на плоскости. Или, если хотите, посмотрите на знак точечного произведения между нормалью и вектором от точки на плоскости к точке.
Чтобы проверить, действительно ли оно «выше» или «ниже» в смысле того, что оно находится прямо над или под ним (т. Е. Где-то не в стороне), затем задайте точку в многоугольнике, проецируя все это на 2d вдоль нормальный, а затем расстояние вдоль нормального теста.