Позвольте мне добавить 2 цента.
Создайте стиль CSS примерно так
.d-maxheight { max-height:200px; }
Теперь просто скажите диалогу применить этот класс к диалогу
$(document).ready(function(){
$(d).dialog({
dialogClass: 'd-maxheight',
height:400
});
});
Вот пример в jsbin
Пока ваш контент меньше максимальной высоты, он будет автоматически изменяться. Если не максимальная высота вступит в силу, и вы получите полосу прокрутки внутри диалога.