hexDigit - это символ из диапазона '0' .. '9', 'a' .. 'f' или 'A' .. 'F'
UnicodeEscape - это что-то вроде \uXXXX
, где X - это hexDigit. Если я правильно прочитал, у вас могут быть дополнительные буквы, но я бы не советовал использовать это (и никогда не видел, чтобы кто-нибудь использовал).
Кстати, правила для этого точно такие же, как для Unicode в Java Strings.