Пара вещей ...
Прежде всего убедитесь, что ваш NSF имеет настройку вида по умолчанию. Doclinks не будет работать, если нет представления по умолчанию. Вы можете определить, есть ли представление по умолчанию, по наличию золотой звезды рядом с одним из представлений в конструкторе.
Из сообщения об ошибке похоже, что вы передаете NotesXspDocument в метод appendDocLink, ожидая NotesDocument. первая строка кода должна быть действительно
var currDoc:NotesDocument = currentDocument.getDocument(true)
Также, был ли документ сохранен в этот момент, если нет, то вам следует добавить строку
currDoc.save(true,true)
и это обеспечит сохранение документа. Вы не можете отправить DocLink без документа UNID, а несохраненный документ не будет иметь действительного UNID.