Если у вас есть отдельный файл .xib для ячейки, вы должны использовать:
tableView.register(nib: UINib?, forCellReuseIdentifier: String)
Другими словами, регистрация вашей ячейки будет выглядеть примерно так:
self.tableView.register(UINib(nibName: "your cell nib name", bundle: nil), forCellReuseIdentifier: "your cell identifier")
Если вы поместили свою ячейку в табличное представление внутри контроллера, который находится в раскадровке, вам не нужно регистрировать свою ячейку, и, как упомянул @ Dávid Pásztor, убедитесь, что вы добавили идентификатор ячейки в ячейку раскадровки