Итак, правильный ответ - реализовать:
* приложение: openFiles:
* applicationShouldOpenUntitledFile:
и реализовать собственное создание документов. так у меня и получилось.
MyDocument* document = [[MyDocument alloc]
initWithContentsOfURL:fileURL
ofType:[fileName pathExtension]
error:nil
];
if(document)
{
[[NSDocumentController sharedDocumentController] addDocument:document];
[document makeWindowControllers];
[document showWindows];
}
конечно, вам нужно написать код обработки ошибок.