Выглядит так, как будто вы хотите сортировать хеш-функции, используемые в хеш-таблице, а не сортировку, используемую для обнаружения дубликатов или подделки.
Поиск в Google даст вам массу информации об альтернативных хэш-функциях. Прежде всего, держитесь подальше от криптографических хэшей подписи (например, MD-5 или SHA-1), они решают другую проблему.
Вы можете прочитать это , или это , или это , чтобы начать с.