Я знаю, что у этого уже есть принятый ответ, но возможно это поможет кому-то. Мне кажется, что было бы более эффективно привязать клик к оверлейному элементу div при открытии модального окна. Отмена привязки не требуется, поскольку jQueryUI уничтожает оверлейный элемент div при закрытии.
jQuery(document).ready(function() {
jQuery("#dialog").dialog({
bgiframe: true,
autoOpen: false,
height: 100,
modal: true,
open: function(){
jQuery('.ui-widget-overlay').bind('click',function(){
jQuery('#dialog').dialog('close');
})
}
});
});