Основываясь на ответе dmnc, я смог добиться этого, добавив код в функцию onOpen в обратном вызове для контейнера fadeIn.
По мере визуализации контента происходит некоторый скачок позиции, но теперь он меняется и идеально подходит заново.
$('#target').modal({
overlayClose: true,
onOpen: function (dialog) {
dialog.overlay.fadeIn('fast', function(){
dialog.data.hide();
dialog.container.fadeIn('fast', function(){
dialog.data.fadeIn('fast');
// where the magic happens
dialog.container.css('height', 'auto');
dialog.origHeight = 0;
$.modal.setContainerDimensions();
$.modal.setPosition();
});
});
},
onClose: function (dialog) { ... }
});