Java - это кроссплатформенная среда, поэтому исключает любые системные библиотеки .Тем не менее, вы можете использовать JNI для вызова программы на C или чем-то еще, что фактически установит перехватчики.
Но обратите внимание, что это действительно отстой, если пользовательне может использовать Alt-Tab.
UPD.На SO есть вопрос , в котором описываются горячие, чтобы лучше захватывать нажатия клавиш в X.