1.Откройте представление дизайна.
2.Нажмите правой кнопкой мыши на форме JDialog и выберите Свойства.
3.В свойствах выберите вкладку свойств.
4.В других свойствах снимите флажок «изменяемый размер» и в поле «Предпочтительный размер» укажите нужный размер.
5. Теперь очистите и восстановите проект.
--Это будет работать.