Не существует абсолютно надежного способа выполнить то, что вы хотите. Если вы хэшируете файл, пользователь может изменить файл и восстановить хеш, и тогда ваша программа сочтет, что файл не модифицирован. Если вы попытаетесь скрыть хеш в реестре, пользователь может легко использовать инструменты SysInternals для определения местоположения, в котором вы его сохраняете.
Вместо этого вы можете подписать файл цифровой подписью, что аналогично хешированию, за исключением того, что в нем используется секретный ключ. Однако, опять же, у вас есть проблема, заключающаяся в том, что ключ должен храниться в секрете, и сохранение его в приложении или где-то на компьютере оставляет пользователю возможность найти ключ, а затем он снова может изменить файл и передать его так что изменение не обнаружено вашей программой.
Ваше приложение может отправить файл или, возможно, просто хэш файла для эффективности, в веб-службу, которую вы создаете. Веб-служба может цифровой подписью файла или хэша и вернуть подпись или сохранить ее на сервере. Позже, когда приложение читает файл, оно может использовать подпись и открытый ключ сервера (вы должны получить его от сервера, чтобы убедиться, что файл был подписан сервером), чтобы убедиться, что файл не был изменен. Или вы можете повторно отправить файл или хэш на сервер, если сервер сохранил подпись, и он может проверить файл и вернуть результат в приложение. Опять же, это не полная защита. У пользователя были бы способы подделать веб-сервис, даже если с использованием SSL есть способы обойти это. Пользователь может полностью взломать ваше приложение и удалить код подтверждения.
Судя по другим вашим вопросам, это какой-то компонент системы активации программного обеспечения. Достаточно взглянуть на Adobe и Microsoft, и их неудачные попытки создать такую систему. Если вы думаете, что можете сделать лучше, удачи. Существуют более эффективные способы обеспечения легального использования вашего программного обеспечения без систем активации, которые приводят только к разочарованию ваших постоянных пользователей.