Мой ответ: нет ничего плохого в том, чтобы попробовать разные алгоритмы и посмотреть, что работает.
Криптоанализ подобен решению головоломки, а не пошаговому процессу.Вы пробуете вещи, вы видите, что работает, что, по вашему мнению, приближает вас.Это абсолютно метод проб и ошибок, основанный на знании потенциальных алгоритмов, шаблонов и методов и причин их возникновения.Дифференциальный криптоанализ, современная методика, в основном сводится к тому, чтобы попробовать различные комбинации ключей и открытых текстов в алгоритме и посмотреть на различия, чтобы увидеть, можете ли вы найти шаблоны.
Из ваших комментариев я думаю, что вы столкнулись с Vigenere Cipher или некоторый аналогичный его вариант.В этом случае ключ важен, потому что, по сути, действительный шифр представляет собой набор шифров Цезаря, а длина ключа определяет количество этих шифров.Теперь правила рассматриваемой схемы точно скажут вам , что это за шифр , но на этом все и основано.