Вы должны будете сначала настроить внешний вид, чтобы использовать кроссплатформенный внешний вид (как кто-то прокомментировал, прежде чем это назвали металлом). Затем перед созданием фрейма вам нужно запросить, чтобы границы были нарисованы по внешнему виду.
try
{
UIManager.setLookAndFeel(
UIManager.getCrossPlatformLookAndFeelClassName());
}
catch (Exception e) { }
Это позволит настроить внешний вид на тот, который вы хотите. Поскольку кроссплатформенный внешний вид является металлическим в JRE Sun.
// Get window decorations drawn by the look and feel.
JFrame.setDefaultLookAndFeelDecorated(true);
// Create the JFrame.
JFrame frame = new JFrame("A window");
И это создаст границы созданного JFrame, как вы описали.