Я не знаком с модальным диалогом jQuery, но похоже, что вы можете просто изменить эту строку:
closeHTML: "<a href='#' title='Close' class='modal-close'>x</a>",
, чтобы изменить атрибут href:
closeHTML: "<a href='http://google.com' title='Close' class='modal-close'>x</a>",
ОднакоМодальный обработчик закрытия диалогового окна, вероятно, отменяет действие по умолчанию (в данном случае это происходит в Google), поэтому вы можете просто добавить:
location.href("http://google.com")
после закрытия диалога (modal.close();
)