Я думаю, что на самом деле проблема может заключаться в том, что объект панели инструментов не скрывает меню (что весьма маловероятно, поскольку строка меню не является частью панели содержимого кадра), но слишком мал. Вы можете просто использовать setMinimalSize на объекте панели инструментов после initComponents () или установить минимальный размер панели инструментов в настройках компонента в Matisse.