Быстрый / хакерский обходной путь - использовать 1, что означает
SP.UI.DialogResult.OK
Спасибо, я смог заставить это работать, используя числа вместо SP.UI.DialogResult.OK.
Например ...
SP.UI.ModalDialog.commonModalDialogClose(0,'Canceled the dialog.');
похоже на использование SP.UI.DialogResult.cancel
SP.UI.ModalDialog.commonModalDialogClose(1,'Yay Success!');
похоже на использование SP.UI.DialogResult.OK
SP.UI.ModalDialog.commonModalDialogClose(-1,'Uh oh... Error');
похоже на использование SP.UI.DialogResult.invalid