Вы не можете сделать модальное всплывающее окно в современных браузерах. (Раньше был другой метод, который вы могли бы использовать для модальных всплывающих окон, но сейчас он устарел.)
По умолчанию это окно должно появляться перед окном, которое его открывает. Вы также можете реагировать на щелчки в документе открывающегося окна, вызывая focus в окне, возвращаемом open, чтобы вывести это другое окно на передний план (остановка, когда вы видите событие unload из всплывающего окна).
Если то, что вы показываете в модале, не имеет в качестве отдельного окна, вы можете вообще не использовать отдельное окно, а вместо этого использовать абсолютно позиционированный div или похожим с элементом позади него, который покрывает всю оставшуюся часть окна, так что он может предотвратить щелчки и аналогичные элементы до элементов под ним. Но если это должно быть отдельное окно, у вас мало что можно сделать, кроме focus.