Это особый случай, поскольку Shift + Tab является клавишей обхода фокуса.Подсистема фокуса обычно использует ключи обхода фокуса, поэтому вам нужно предотвратить это, вызвав
component.setFocusTraversalKeysEnabled(false);
на вашем JTextField
.После этого вы сможете обнаружить комбинацию Shift + Tab и обработать ее самостоятельно.
См. Как написать прослушиватель ключей дляпример программы, которую вы можете скачать и поэкспериментировать, чтобы увидеть, как она работает.