У меня тоже была эта проблема. Я обнаружил, что у меня работает следующее:
this.add(okButton, "width pref:pref:pref");
или
this.add(okButton, "wmax pref");
Кроме того, при использовании вещества внешний вид имеет функцию, при которой минимальный размер всегда слишком широк. Это может быть отменено этим неясным хаком.
okButton.putClientProperty(
SubstanceLookAndFeel.BUTTON_NO_MIN_SIZE_PROPERTY, Boolean.TRUE);