Это все равно должно работать, если ваши пользователи либо добавят ваш сайт в список доверенных сайтов, либо установят Защищенный режим на ВЫКЛ.
Они, видимо, изменили настройки безопасности для showModalDialog в интересах соответствия стандартам, что иронично, поскольку для showModalDialog.
нет общедоступного стандарта.