В зависимости от того, что вы конкретно делаете, вы можете переопределить newDocument: или applicationOpenUntitledFile: или иным образом запретить пользователю вызывать его через меню File-> New.
Однако, ответ выше, с использованием метода делегата applicationShouldOpenUntitledFile: будет обрабатывать типичные ситуации, когда вам нужно такое поведение.