Если вы добавите функцию в onclick, она переопределит поведение по умолчанию. Просто оставьте href="#"
в теге, поместите функцию как onclick="myFunction()"
, и все будет хорошо.
Затем в функции вы можете выполнить закрытие с помощью: $('.ui-dialog').dialog('close')
Или вы можете перейти на другую страницу с помощью: $.mobile.changePage('#page')
Я уверен, что вы уже пошли дальше, но, надеюсь, это может помочь кому-то еще, ищущему это решение.