Это не может быть сделано программно, но вы можете создать впечатление границы в IB.
Добавьте разделитель над и под подгруппой ячейки.

Придайте основной группе ячейки цвет фона.

Сделайте первый разделитель альфа 0 и верхнее вертикальное выравнивание.

Дайте подгруппе ячейки центральное вертикальное выравнивание.
Дайте второму разделителю альфа 0 и нижнее вертикальное выравнивание.

Я доволен результат.
