Чтобы получить самое переднее окно (или главное окно), используйте -[NSApplication mainWindow]
:
NSWindow *mainWindow = [NSApp mainWindow];
Для получения окна, соответствующего заданному документу:
NSDocument *someDocument; // reference to the document you’re interested in
NSWindow *window = [[[someDocument windowControllers] objectAtIndex:0] window];
NSDocument
создает контроллер одного окна для управления соответствующим окном документа, поэтому -[NSDocument windowControllers]
возвращает массив с единственным элементом, соответствующим контроллеру окна. -[NSWindowController window]
возвращает окно, управляемое этим оконным контроллером.