Хм ... без всяких испытаний и полностью от макушки:
JPanel panel = new JPanel();
panel.setBorder(new TitledBorder("Title"));
menu.add(panel);
Большинство контейнеров Swing съедают все, что может даже работать.
Другой подход заключается в создании пользовательского компонента (возможно, с горизонтальным BoxLayout) и добавлении в него JSeparator, JLabel и другого JSeparator, а затем добавлении его в меню.