Это не может быть сделано программно, но вы можете создать впечатление границы в IB.
Добавьте разделитель над и под подгруппой ячейки.
Придайте основной группе ячейки цвет фона.
Сделайте первый разделитель альфа 0 и верхнее вертикальное выравнивание.
Дайте подгруппе ячейки центральное вертикальное выравнивание.
Дайте второму разделителю альфа 0 и нижнее вертикальное выравнивание.
Я доволен результат.