Изначально JXTaskPane был спроектирован как своего рода компонент с фиксированными свойствами - он должен выглядеть точно так же, как соответствующий нативный компонент (тогда WinXP): пользовательский внешний вид не должен поддерживаться. Как следствие, реализация заголовка / границы глубоко скрыта в XXTaskPaneUI - фактически все сводится к границе.
1) как уже упоминалось, некоторые свойства могут быть изменены для каждого отдельного приложения. Только будьте осторожны: это детали реализации, которые могут меняться или не поддерживаться конкретными реализациями пользовательского интерфейса (Nimbus всегда является хорошим кандидатом, чтобы не уважать их, даже наша реализация, не являющаяся синтезатором, может и не забыть)
2) «разрыв» - это граница области контента, вы можете установить свою собственную. Опять же, будьте осторожны: может не пережить updateUI (может быть, что делегаты пользовательского интерфейса переопределяют их безоговорочно, если это так, пожалуйста, сообщите о проблеме в системный трекер SwingX)
((JComponent) taskpane2.getContentPane()).setBorder(BorderFactory.createEmptyBorder());
Кстати: эти panel.setSize не имеют абсолютно никакого эффекта - правило layoutManagers; -)