Есть пара настроек UIManager, которые вы можете сделать перед созданием графического интерфейса, но они будут для каждой JTabbedPane: Это изменит цвет выбранной вкладки.
UIManager.put("TabbedPane.selected", Color.RED);
Я не вижу настройки для границы, но вы можете скрыть ее так:
UIManager.put("TabbedPane.contentBorderInsets", new Insets(0, 0, 0, 0));
Наконец, вы можете изменить фон панели вкладок следующим образом:1007 *
tab.setBackground(Color.BLUE);