Я не могу придумать, как использовать алгоритмы оптимизации колонии муравьев для шифрования, но я знаю о попытках использовать их для криптоанализа и дешифрования.
Эта статья являетсяпытаясь использовать Ant Colony Optimization для криптоанализа DES, они используют рой для поиска секретного ключа на построенном ими ориентированном графе.
Надеюсь, что это поможет.