Вы бы назвали это так:
MyWindowController* controller = [[MyWindowController alloc]
initWithWindowNibName:@"Foo"];
[controller showWindow:nil];
Где Foo - имя файла пера, а MyWindowController
- подкласс NSWindowController, который вы указали в качестве владельца файла пера.
В этом случае важно создать подкласс NSWindowController, поскольку он будет автоматически искать файл пера в пакете, в котором живет класс.