Если под ребрами вы подразумеваете ограничивающий прямоугольник (наименьший прямоугольник, заключающий в себя многоугольник), то это boundingRect()
.
Если вы говорите о ребрах, состоящих из вершин, то это просто линии в многоугольнике. QPolygon
это просто QVector<QPoint>
производный класс. Края - это линии, построенные с последовательным QPoints
в списке (плюс линия от последней точки к первой).