Вывод любой хеш-функции представляет собой набор байтов, а не набор текста. Поэтому, когда вы вводите текст в качестве теста, вы, вероятно, вводите преобразование текста этого байтового массива. Простое преобразование его в SQL в двоичный файл (16) не является правильным, вам нужно сделать правильное преобразование, чего вы не можете сделать в SQL. Это также объясняет, почему изменение типа данных столбца также не работает.
Когда хэши выражаются в виде строк, это обычно происходит через шестнадцатеричные значения каждого байта или через кодировщик набора символов. Чтобы переключаться между ними, вам нужно выяснить, какой из них используется, и выполнить преобразование в коде, а не путем переключения типов данных в SQL