Вам необходимо создать собственное диалоговое окно. Вы делаете это с помощью SWT, Eclipse UI Framework. Если вы хороший Java-кодер, лучшее, что вы можете сделать (ИМХО), это посмотреть фрагменты кода SWT .
Другой вариант, возможно, лучший, использует JFace. Это основа, построенная на основе SWT. JFace облегчает создание пользовательского интерфейса и работает с SWT, не скрывая его. Вы можете найти много примеров кода для создания диалоговых окон с JFace здесь .