Вы можете создать div для диалога и div внутри него для аккордеона.
Фрагмент HTML:
<button id='clicker>Click Me</button>
<div id='dialog'>
<div id='accordion'>
<h3>Section 1</h3><div><p>Sec 1 Fun</p></div>
<h3>Section 2</h3><div><p>Sec 2 Fun</p></div>
</div>
</div>
Фрагмент JavaScript:
$('#clicker').button().click(function(){
var overlayDialogObj = {
autoOpen: true,
height: 400,
width: 310,
modal: false,
open: function(){
$('#accordion').accordion(
{heightStyle: "fill", collapsible: true}).show();
},
buttons: {
'Done': function() {
$(this).dialog('close');
}
}
};
$('#dialog').dialog(overlayDialogObj).show();
});
Смотрите скрипку здесь:
http://jsfiddle.net/saylesc/RDwUj/2/