Я нашел решение. Код в iframe следующий
var valInput = $("input[name='valReturn']").val();
$("input[name='imageText']",parent.document.body).val(valInput);
parent.closeIFrame();
Вторая строка - это ссылка на родителя, а последняя строка - это вызов метода в parent. Код следующий:
function closeIFrame(){
$.modal.close();
}