Может ли кто-нибудь указать мне какой-либо Perl-скрипт для вычисления относительной энтропии или взаимной информации из набора данных?
проверьте cpan.org: например, Data :: Password :: Entropy или модули Data :: Entropy.