sklearn Pipeline: аргумент типа ColumnTransformer не повторяется

Question

Я пытаюсь использовать конвейер для подачи ансамблевого классификатора голосования, так как хочу, чтобы учащийся ансамбля использовал модели, которые обучаются на разных наборах функций. Для этого я воспользовался руководством, доступным по адресу [1] .

Ниже приведен код, который я мог разработать до сих пор.

y = df1.index
x = preprocessing.scale(df1)

phy_features = ['A', 'B', 'C']
phy_transformer = Pipeline(steps=[('imputer', SimpleImputer(strategy='median')), ('scaler', StandardScaler())])
phy_processer = ColumnTransformer(transformers=[('phy', phy_transformer, phy_features)])

fa_features = ['D', 'E', 'F']
fa_transformer = Pipeline(steps=[('imputer', SimpleImputer(strategy='median')), ('scaler', StandardScaler())])
fa_processer = ColumnTransformer(transformers=[('fa', fa_transformer, fa_features)])


pipe_phy = Pipeline(steps=[('preprocessor', phy_processer ),('classifier', SVM)])
pipe_fa = Pipeline(steps=[('preprocessor', fa_processer ),('classifier', SVM)])

ens = VotingClassifier(estimators=[pipe_phy, pipe_fa])

cv = KFold(n_splits=10, random_state=None, shuffle=True)
for train_index, test_index in cv.split(x):
    x_train, x_test = x[train_index], x[test_index]
    y_train, y_test = y[train_index], y[test_index]
    ens.fit(x_train,y_train)
    print(ens.score(x_test, y_test))

Однако при запуске кода я получаю сообщение об ошибке TypeError: argument of type 'ColumnTransformer' is not iterable в строке ens.fit(x_train,y_train).

Ниже приводится полная трассировка стека, которую я получаю.

Traceback (most recent call last):
  File "<input>", line 1, in <module>
  File "C:\Program Files\JetBrains\PyCharm 2020.1.1\plugins\python\helpers\pydev\_pydev_bundle\pydev_umd.py", line 197, in runfile
    pydev_imports.execfile(filename, global_vars, local_vars)  # execute the script
  File "C:\Program Files\JetBrains\PyCharm 2020.1.1\plugins\python\helpers\pydev\_pydev_imps\_pydev_execfile.py", line 18, in execfile
    exec(compile(contents+"\n", file, 'exec'), glob, loc)
  File "C:/Users/ASUS/PycharmProjects/swelltest/enemble.py", line 112, in <module>
    ens.fit(x_train,y_train)
  File "C:\Users\ASUS\PycharmProjects\swelltest\venv\lib\site-packages\sklearn\ensemble\_voting.py", line 265, in fit
    return super().fit(X, transformed_y, sample_weight)
  File "C:\Users\ASUS\PycharmProjects\swelltest\venv\lib\site-packages\sklearn\ensemble\_voting.py", line 65, in fit
    names, clfs = self._validate_estimators()
  File "C:\Users\ASUS\PycharmProjects\swelltest\venv\lib\site-packages\sklearn\ensemble\_base.py", line 228, in _validate_estimators
    self._validate_names(names)
  File "C:\Users\ASUS\PycharmProjects\swelltest\venv\lib\site-packages\sklearn\utils\metaestimators.py", line 77, in _validate_names
    invalid_names = [name for name in names if '__' in name]
  File "C:\Users\ASUS\PycharmProjects\swelltest\venv\lib\site-packages\sklearn\utils\metaestimators.py", line 77, in <listcomp>
    invalid_names = [name for name in names if '__' in name]
TypeError: argument of type 'ColumnTransformer' is not iterable

Ниже приведены значения в списке имен при возникновении ошибки.

1- ColumnTransformer(transformers=[('phy',
                                 Pipeline(steps=[('imputer',
                                                  SimpleImputer(strategy='median')),
                                                 ('scaler', StandardScaler())]),
                                 ['HR', 'RMSSD', 'SCL'])])
2- ColumnTransformer(transformers=[('fa',
                                 Pipeline(steps=[('imputer',
                                                  SimpleImputer(strategy='median')),
                                                 ('scaler', StandardScaler())]),
                                 ['Squality', 'Sneutral', 'Shappy'])])

Что в чем причина и как это исправить?

Answer 1

Параметр estimators в VotingClassifier должен быть списком пар (имя, оценка), например,

ens = VotingClassifier(estimators=[('phy', pipe_phy),
                                   ('fa', pipe_fa)])

(В вашем коде проверка пытается найти второй элемент пары, отсюда и жалоба на то, что ColumnTransformer не повторяется.)

Answer 2

Мне удалось запустить код, используя обходной путь, который немного уродлив.

Кажется, что библиотека пытается найти подстроку '__' объекта ColumnTransform, а это невозможно выполнить.

Поскольку эта проверка имени не оказывает существенного влияния на мою функциональность, я прокомментировал следующий фрагмент по адресу sklearn\utils\metaestimators.py.

invalid_names = [name for name in names if '__' in name]
if invalid_names:
    raise ValueError('Estimator names must not contain __: got '
                    '{0!r}'.format(invalid_names))