Как можно (например) развернуть окно со значком в трее при нажатии указанной комбинации клавиш?
edit: Так как я могу обнаружить, например, когда пользователь нажимает Ctrl + M ?
Я думаю, вам следует использовать какое-либо событие GUI для обнаружения нажатий клавиатуры и JNI (собственный интерфейс Java) для максимизации окна.
Посмотрите в этом примере о JNI и максимизации окна. Тебе тоже стоит посмотреть руководство JNI .