как применять взаимную информацию о категориальных чертах

Question

Я использую Scikit-learn для обучения модели классификации.У меня есть как дискретные, так и непрерывные функции в моих тренировочных данных.

Я хочу сделать выбор функций, используя взаимную информацию .

Функции 1,2 и 3 являются дискретными.С этой целью я пытаюсь код ниже:

mutual_info_classif(x, y, discrete_features=[1, 2, 3])

но это не сработало, выдает ошибку:

 ValueError: could not convert string to float: 'INT'

Answer 1

Простой пример с классификатором взаимной информации :

import numpy as np
from sklearn.feature_selection import mutual_info_classif
X = np.array([[0, 0, 0],
              [1, 1, 0],
              [2, 0, 1],
              [2, 0, 1],
              [2, 0, 1]])
y = np.array([0, 1, 2, 2, 1])
mutual_info_classif(X, y, discrete_features=True)
# result: array([ 0.67301167,  0.22314355,  0.39575279]