Вместо того, чтобы пытаться найти алгоритм, просто попытайтесь найти алгоритмы, которые вряд ли будут возможны.на мгновение, это не классический моно-алфавитный или не-ключевой шифр транспонирования.С другой стороны, сравните размеры входного и выходного битов.Сузьте свои возможности таким образом, и это поможет вам решить, какой метод криптоанализа будет использоваться.
Это может быть не идеальный подход, но, конечно, это начало.