Не знаком с этим плагином, но, прочитав документацию, я ожидал, что это сработает (при условии, что вы включили необходимые ресурсы .js / .css:
<div class="jqmWindow" id="dialog"></div>
$(document).ready(function() {
$('#dialog').jqm();
jQuery("#Zone__" + row + "__documents").find("td:eq(3)").mouseover(function(){
var text = jQuery("#Zone__" + row + "__documents").find("td:eq(3)").html();
if(text.indexOf("...") > 0){
jQuery.post("/_common/cfc/act_get.cfc?method=getNcas&returnFormat=json",
{document_id:doc_id,maxnum:100},
function(res,code){
$('#dialog').html(res);
$('#dialog').jqmShow();
},
"json");
}
});
});