Если форма была опубликована, вы можете просто установить цель, чтобы она загружалась в iframe, но вызываемая функция, вероятно, не публикует форму.
Чтобы функция загружала страницу в iframe, вы должны изменить все, что делает функция, чтобы она помещала результат в iframe вместо перенаправления текущей страницы.
Итак, если функция, например, выполняет:
window.location.href = resultUrl;
вы бы изменили его на:
document.getElementById('IdOfTheIframe').src = resultUrl;
Edit:
Функция действительно отправляет форму (несмотря на то, что код вызывает форму, останавливая обычную публикацию), так что вы можете просто установить имя в своем iframe и использовать атрибут target
в теге формы, чтобы сделать его отправкой в фрейм.