Если вы урежете размер криптографической хеш-функции, вы нарушите ее - я имею в виду, что вы очень вероятно повредите свойства, которые делают ее криптографически безопасной. Если криптографические свойства для вас не важны, то вам вообще не нужен криптографический хеш - вам лучше использовать контрольную сумму или некриптографический хеш .
И что бы вы ни делали, не используйте md5. Если вам нужна криптографическая хеш-функция, md5 не является хорошим выбором, поскольку существуют алгоритмы, которые создают коллизии в разумные сроки. Если вам не нужна криптографическая хеш-функция, тогда md5 является избыточным.