Тень модального NSPanel появляется за пределами окна, если я установил прозрачную заголовок для окна. 
Изображение выше показывает окно в состоянии по умолчанию с левой стороны и как NSPanel отображается с правой стороны.
NSApplication.shared.keyWindow?.beginSheet(panel, completionHandler: nil)