Вы можете использовать commonShowModalDialog (), который используется SharePoint по умолчанию. Вот образец фрагмента
//Opens the popup window
function openPopup()
{
commonShowModalDialog("/_layouts/samplepage.aspx", "resizable: yes; status:no; scroll: no; help: no; center: yes; dialogwidth:410px; dialogHeight:300px;", callback);
}
//callback function to retrieve any values from popup
function callback(ret)
{
alert(ret);
}
Чтобы вернуть значение из всплывающего окна, используйте window.returnValue
. Надеюсь, это поможет.