Помните, модель данных (точнее, TableModel) отделена от представления.
Вы должны установить значение ячейки в логическое значение вместо того, чтобы устанавливать значение в JCheckBox. Затем убедитесь, что метод getColumnClass () вашего TableModel возвращает логическое значение для столбца 4. Это можно сделать разными способами, но создание собственного TableModel и реализация метода getColumnClass () - это один из способов.
DefaultCellRenderer / DefaultCellEditor покажет флажок для логических значений. Вы также можете установить пользовательские средства визуализации / редакторы, как указала Девон, но вы все равно захотите хранить логические значения вместо JCheckBoxes в этом столбце.