Сам сервлет генерирует только HTML (или какой-либо другой вывод). Он не может решить, где он будет отображаться (новое окно, новая вкладка и т. Д.).
Если вы хотите открыть страницу в новом окне, вы должны сделать это по ссылке или JavaScript, который открывает страницу.