Вы реализуете это в делегате outlineView.
Один из способов сделать это:
- (BOOL)outlineView:(NSOutlineView *)outlineView isGroupItem:(id)item {
if ([outlineView parentForItem:item]) {
// If not nil; then the item has a parent.
return NO;
}
return YES;
}
Вот ссылка на документы .