Не пытайтесь создать собственный алгоритм шифрования, а используйте классы криптографии, предоставленные в .NET Framework через System.Security.Cryptography .
Для паролей хорошим решением является использованиеодностороннее шифрование, такое как MD5 хэш или SHA1 .И когда пользователь вводит свой пароль, вы вычисляете хеш и сравниваете его с сохраненным хешем.Преимущество этого состоит в том, что вам не нужно беспокоиться о том, как надежно хранить ключ, используемый для шифрования паролей.
Чтобы повысить безопасность использования одностороннего хеширования, вы можете применить соль, это ограничение помогаетэффективность некоторых типов атак, таких как атака по словарю и т. д. Я не читал статью в вики, но я уверен, что этот предоставит более подробную информацию.