Это должно быть, конечно, выполнимо с помощью Native SQL Query. Или, если вы хотите использовать HQL, должна быть возможность расширить диалект MySQL и зарегистрировать функцию (и) (не проверено):
registerFunction("aes_encrypt", new StandardSQLFunction("aes_encrypt", Hibernate.STRING) )
registerFunction("aes_decrypt", new StandardSQLFunction("aes_decrypt", Hibernate.STRING) )
Очевидно, что в обоих случаях это не переносимо.
В зависимости от ваших потребностей, существуют также Jasypt UserTypes (хотя сайт Jasypt, кажется, не работает / не работает?)