Когда вы разбиваете треугольник вдоль плоскости, вы попадаете в одну из двух ситуаций: либо плоскость не пересекает отрезки линии в треугольнике, либо она пересекает ровно два отрезка. Интересны только пересекающиеся треугольники.
Если у вас есть треугольник (A, B, C), где A, B и C являются вершинами.
Предположим, что плоскость пересекает отрезки (A, B) и (A, C) в точках D и E.
Определите вершину F между B и C (например, B + (C - B) / 2), но подойдет любая вершина на отрезке между B и C).
Тогда ваши новые треугольники следующие
(A, D, E), (B, D, F), (D, E, F) и (C, E, F)