Вы назначаете функцию, которая будет вызываться при загрузке тега привязки, т.е. событие загрузки.Эта функция не заставляет гиперссылку загружать страницу.Функция диалога определяет элемент на странице, который будет отображаемым диалогом, вы указали его на гиперссылку.
Я думаю, вам нужно посмотреть на jquerytools и элемент управления наложениемтам, это гораздо больше, чего вы пытаетесь достичь, я верю.