Я собираюсь предположить, что вы имеете в виду 2D пространство в заголовке вопроса, потому что все остальное относится к 2D.
Пройдите все вершины (x, y) в вашей геометрии и вычислите максимуми минимум x, а max и min y.
Тогда вершинами вашего ограничительного прямоугольника будут (min_x, min_y), (max_x, min_y), (max_x, max_y) и (min_x, max_y).