Я нашел точки пересечения моих многоугольников и добавил вершины, которые находятся внутри / снаружи многоугольников для задачи пересечения / объединения (проверьте, лежит ли какая-либо из вершин многоугольника 1 внутри многоугольника 2 и наоборот, используя 'inpolygon').Затем все точки были преобразованы в полярные координаты с центром в средних координатах матрицы и отсортированы по углу, так что теперь они образуют последовательный замкнутый контур.Зная это, легко найти область пересечения / объединения, используя 'polyarea'.