Вам нужно будет напрямую изменить пункты меню всплывающей кнопки, но это не очень сложно. Вам даже не нужно создавать подклассы, вы можете делать все это из контроллера.
NSMenu *menu = [popUpButton menu];
NSMenuItem *item = [menu itemWithTag:100];
NSDictionary *attributes = [NSDictionary dictionaryWithObjectsAndKeys:[NSColor redColor], NSForegroundColorAttributeName, nil];
NSAttributedString *string = [[NSAttributedString alloc] initWithString:[item title] attributes:attributes];
[item setAttributedTitle:string];
Возможно, вы захотите скопировать атрибуты из существующего атрибутного заголовка строки, чтобы шрифт и размер остались прежними, но с этого следует начать.