Если панель инструментов находится через одну из сторон графического интерфейса, зачем пытаться добавить панель инструментов непосредственно в JDesktopPane? Почему бы не хранить все в JPanel, который использует BorderLayout, добавить JDesktopPane в этот JPanel BorderLayout.CENTER и добавить панель инструментов в JPanel BorderLayout.WHATEVER (в зависимости от того, где вы хотите разместить его)?