Я считаю, что закругленные углы сгруппированного стиля на самом деле являются фоном ячеек таблицы. Таким образом, вы не можете просто заменить белую часть, потому что это не сплошной цвет с нарисованной границей - это ImageView, выступающий в качестве backgroundView для ячейки (с использованием различной графики в зависимости от строки ячейки и количества строк в сечении).
Так что либо вы пытаетесь использовать свою собственную графику, чтобы вы могли сохранить округлость (я пробую что-то для себя, пока не до конца выяснил), либо установить для каждого cell.backgroundView значение nil и использовать cell.backgroundColor = [UIColor blackColor] ;