сначала вам нужно создать обработчик событий для вашей кнопки, затем в вашем обработчике вы должны создать свою панель и сделать ее видимой.если вы хотите больше всплывающих окон, вы должны использовать как:
JOptionPane.showMessageDialog(frame, "This is my message");
, который создаст предупреждающее сообщение, вы также можете создать свой собственный диалог костюма, я бы предложил прочитать это