Как вы можете определить, когда JDialog был изменен?(WindowListener было бы моим предположением, но, похоже, нет обработчика события изменения размера.)
JDialog
WindowListener
Попробуйте использовать ComponentListener :
YourDialog.addComponentListener(new ComponentAdapter() { public void componentResized(ComponentEvent e) { // do stuff } });