Трудно точно определить, в чем проблема, если вы не показываете код, и что вы подразумеваете под не всплывающим, а новым окном.Из того, что я могу интерпретировать, если селен не распознает это как новое окно, когда оно есть, возможно, это будет работать, если вы открыли ссылку на вкладке, а затем переключились на эту вкладку.Вы можете сделать это следующим образом:
Actions actions = new Actions(driver);
actions.keyDown(Keys.LEFT_CONTROL)
.click(yourHyperlink)
.keyUp(Keys.LEFT_CONTROL)
.build()
.perform();
Selenium автоматически переключает контекст на эту новую вкладку, но даже если этого не произойдет, дескриптор окна сможет его распознать.