Начиная с iOS11, CALayer имеет свойство maskedCorners:
var maskedCorners: CACornerMask { get set }
В вашем случае вы должны использовать:
cell.contentView.layer.maskedCorners = [.layerMinXMinYCorner, .layerMinXMinYCorner]
Это маскирует верхний левый и правый углы для любого установленного вами углаRadius.
Также необходимо убедиться, что contentView обрезает свои подпредставления, чтобы они могли соответствоватьформа
cell.contentView.clipsToBounds = true