Я предполагаю, что вы используете netbeans, так что извините, если я ошибаюсь (вы не сказали).
Есть два способа сделать это, во-первых, создать отдельную форму для вашего нового JFrame (щелкните правой кнопкой мыши> New> JFrame) и затем создать новый экземпляр этого при нажатии вашей кнопки.
Второй вариант - добавить его в GUI Builder. Если вы сделаете это, он сначала не будет отображаться, вам нужно перейти в левую часть, где есть список компонентов, и нажать Другие компоненты> jframe1, чтобы сделать он появится (это скроет вашу основную форму, которую вы можете скрыть, щелкнув по основному компоненту формы в навигаторе.