работает довольно хорошо, когда находится в созданном состоянии или развернуто, но на самом деле не между
Кроме того, согласитесь, что вы не можете эффективно использовать менеджеры компоновки, если ваши компоненты не могут изменить размер меньше. Компоновка компонентов на кадре также должна реагировать на увеличение и уменьшение размера кадра.
Тем не менее, вы можете контролировать минимальный размер кадра с помощью кода:
frame.add(...);
frame.pack();
frame.setMinimumSize( frame.getPreferredSize() );
frame.setLocationByPlatform( true );
frame.setVisible( true );