С Java форум :
UIManager.setLookAndFeel(UIManager.getSystemLookAndFeelClassName());
GraphicsEnvironment ge = GraphicsEnvironment.getLocalGraphicsEnvironment();
Rectangle bounds = ge.getMaximumWindowBounds();
Теперь у вас есть границы без зависимых от платформы украшений рабочего стола.У меня нет Mac, поэтому я только проверил, что он работает на WinXP / JDK6.
Обратите внимание, что если вы автоматически скрываете панель задач, то границы НЕ включают панель задач.