В теории информации многовариантная взаимная информация (MMI) может быть синергетической (отрицательной) или избыточной (положительной).Чтобы смоделировать эти два случая, предполагая три переменные X, Y и Z, все они принимают 0 или 1 (двоичная переменная).И мы повторяем выборку из них 12 раз.
Случай 1:
X = [ 0 0 0 0 0 0 1 1 1 1 1 1 ]
Y = [ 0 0 0 0 1 1 0 0 1 1 1 1 ]
Z = [ 0 0 1 1 1 1 0 0 0 0 1 1 ]
В этом случае мы предполагаем механизм среди XYZ, когда Y и Z равны 0или 1, X принимает 0 или 1 соответственно.Когда Y = 0, Z = 1, тогда X принимает 0, а Y = 1, Z = 0, тогда X принимает 1.
мм (X, Y, Z) = -0.1699 в этом случае, указывающий синергетический эффект среди трех переменных.
Случай 2:
X = [ 0 0 0 0 0 0 1 1 1 1 1 1 ]
Y = [ 0 0 0 0 0 1 0 1 1 1 1 1 ]
Z = [ 0 1 1 1 1 1 0 0 0 0 0 1 ]
, механизм в этом случае такой же, как указано выше.Разница в том, что больше выборок XY принимает другое значение и меньше выборок обоих XY равны 0 или 1.
мм (X, Y, Z) = 0,0333 , что указывает на избыточность.
Итак, могу ли я сказать, что в этих двух случаях синергия и избыточность показывают сходный механизм (или взаимосвязь) между тремя переменными?Но как мы понимаем избыточность и особенно синергизм в реалистичных данных?