Самый простой способ сделать это - создать подкласс NSButton и реализовать его метод drawRect ...
- (void) drawRect: (NSRect) rect {}
Там вы можете создать путь Безье или установить цвета фона и так далее ...
Посмотрите на этот другой вопрос о переполнении стека