Вопрос немного старый, так что вы, наверное, уже поняли, но я нашел его, когда искал именно эту вещь. Алекс танцевала вокруг решения, фактически не предоставляя его. Итак, здесь, для Google и всего человечества: как программно создать флажок в Какао.
NSRect frame;
frame.size.width = frame.size.height = 18;
NSButton *myCheckBox = [[NSButton alloc] initWithFrame:frame];
[myCheckBox setButtonType:NSSwitchButton];
[myCheckBox setBezelStyle:0]; // This is unnecessary. I include it to show that checkboxes don't have a bezel style.
[myView addSubview:myCheckBox];