Это дает:
0x 14 fe ae 14 c3 be c2 ae 14 c3 be c2 ae
Первые три байта очевидны. Они просто выводятся буквально. Для следующих трех вы должны помнить, что char в Java представляет кодовую единицу UTF-16, а не байт. Итак, вы сначала создаете единицы кода Unicode U + 0014, U + 00FE, U + 00AE, а затем конвертируете каждый в UTF-8. U + 0014 - это 0x14 в UTF-8 (поскольку это также ASCII), но U + 00FE - это 0xC3 0xBE, а U + 00AE - 0xC2 0xAE.
Вы снова создаете те же символы в следующих трех строках.
Суть в том, что если вы хотите хранить буквенные байты, просто используйте байтовый массив.