Я бы использовал java.awt.SystemTray в Java SE 6. Он кроссплатформенный и довольно простой в использовании.
Хотя некоторые люди ненавидят всплывающие уведомления в Windows, они являются наименее навязчивыми всплывающими окнами, так как они могут быть проигнорированы пользователем или легко отклонены. Самое главное, что они не могут быть пропущены пользователем, который был вдали от компьютера, потому что всплывающие подсказки (по крайней мере, в Windows XP / Vista) используют системные таймеры простоя, чтобы определить, когда наступит подходящее время для исчезновения.
Некоторые предпочитают более традиционные уведомления о тостах, аналогичные тем, которые отображаются в Outlook - они появляются и медленно исчезают, давая пользователю время для взаимодействия с ними при необходимости.