Вы можете преобразовать из char в шестнадцатеричную строку.
char ch =
String hex = String.format("%04x", (int) ch);
Чтобы прочитать hex и преобразовать в двоичный файл, вы можете сделать
int num = Integer.parseInt(text, 16);
String bin = Integer.toString(num, 2);