Я не уверен на 100% в правильности этого, но я думаю, что вы можете смело переопределить метод close следующим образом:
$.ui.dialog.prototype._originalClose = $.ui.dialog.prototype.close;
$.ui.dialog.prototype.close = function() {
alert ('My stuff');
$.ui.dialog.prototype._originalClose.apply(this, arguments);
};
Вы можете увидеть, как это работает на: http://jsfiddle.net/8KKMm/
Однако , как правило, это хорошая идея, чтобы избежать переопределения внешних библиотек.Могут быть более эффективные способы достижения цели без использования библиотеки пользовательского интерфейса jQuery.Обратите внимание на доступные события компонента Dialog: http://jqueryui.com/demos/dialog/.