Если вы написали свое собственное «новое» шифрование, без каких-либо «стандартных методов шифрования», и вы не знаете, как его протестировать (т.е. вы не являетесь экспертом по криптографии), то я уже могу сказать Вы результат.
Ваша схема безнадежно испорчена и может быть взломана даже криптографами студенческого уровня. Не то, чтобы ваша схема когда-либо зашифровывала что-то настолько ценное, чтобы стоило потратить время на взлом.
Криптография НЕ для неопытных. Больше, чем любая другая дисциплина, она постоянно опирается на предыдущие знания. В криптографии нет "революций", и НИКОГДА не рекомендуется новая схема.