Возможно, что байты меняются местами, но это обычно происходит только с числами (см. https://beej.us/guide/bgnet/html/multi/htonsman.html). Скорее всего, это биты с каждым символом. Вам просто нужен простой алгоритм для их переключения перед расшифровкой. Конечно, если биты и байты поменялись местами, это будет еще интереснее.
Теперь, тот факт, что он отображает ту же строку, заставляет меня поверить, что проблема на самом деле не в массиве символов - это что-то в самом алгоритме дешифрования, которое зависит от порядка байтов. В этом случае вам обязательно нужно взглянуть на приведенную выше ссылку и подумать об операциях, которые вы выполняете над многобайтовыми типами. (64-битные порядковые переключатели обычно должны быть написаны вручную, но замена байтов не является сложным алгоритмом для записи.)