Диалоговое окно jquery UI - это просто HTML-элемент, использующий интерфейс JQuery, чтобы он выглядел как окно, но это НЕ окно. вы не можете присоединиться к нему, но вы можете просто извлечь его из DOM.
Если ваш диалог был инициализирован так:
$('div#dialog_id').dialog();
Вы можете просто получить к нему доступ, выполнив:
Div dialog = Browser.Div("dialog_id");