Можно использовать Установить , чтобы определить, добавляются ли дубликаты.
TreeSet set = new TreeSet();
TableModel tableModel = table.getModel() ;
for(int i=0; i<tableModel.getRoxCount();i++){
Object obj = tableModel.getValueAt(i, 2);
if(!set.add(obj)){
//throw duplicate error
}
}