Вы можете сделать окно полностью прозрачным и обрабатывать все самостоятельно.У меня есть пример для представления OpenGL, но он также должен работать для представления Quartz или представления Cocoa.
Добавьте следующее в инициализатор вашего подкласса NSWindow, где вы создаете новое окно, используя константу NSBorderlessWindowMask.
[self setOpaque:NO];
[self setBackgroundColor:[NSColor clearColor]];
Вам, вероятно, придется самостоятельно рисовать элемент управления изменением размера.Образец, из которого я взял это, является полноэкранным окном, поэтому изменение размера не требуется.
Удачи.