Вы устанавливаете макет ContentPane, а затем проверяете макет JFrame.
System.out.println("layout before is " + this.getContentPane().getLayout().toString());
this.getContentPane().setLayout(new GridLayout(1, 2));
System.out.println("layout after is " + this.getContentPane().getLayout().toString());
Это дает желаемый результат.
РЕДАКТИРОВАТЬ: ОП изменил свой исходный код, делаяэтот ответ не совсем правильный.В его случае это было бы правильное решение:
this.setRootPaneCheckingEnabled(false);
System.out.println("layout before is " + this.getLayout().toString());
this.setLayout(new GridLayout(1, 2));
System.out.println("layout after is " + this.getLayout().toString());