Особенности и важность функций в Auto-Sklearn с одним горячим кодированием

Question

Я пытаюсь обучить модель XGBoost, используя Auto-Sklearn.

https://automl.github.io/auto-sklearn/stable/

Модель работает отлично, однако мне требуется особенность важности для уточнения модели и для целей отчетности.

autosklearn.classification.AutoSklearnClassifier не имеет функции, которая может сделать это для меня.

Я пытаюсь получить оценки характеристик и их важности из базового конвейера.

Я пробовал несколько вещей, используя подробности, приведенные в следующих выпусках GitHub.

1) https://github.com/automl/auto-sklearn/issues/524

2) https://github.com/automl/auto-sklearn/issues/224

Я также попытался использовать модуль Python 'Trace'.Это вернуло более 900 000 строк кода.Не знаю с чего начать.

Мой код находится в стадии разработки, но выглядит следующим образом:

import pandas as pd
import numpy as np
import autosklearn.classification
import sklearn.model_selection
import sklearn.datasets
import sklearn.metrics
import datetime
import seaborn as sns
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.metrics import roc_auc_score, roc_curve, auc
from sklearn import preprocessing
from sklearn.preprocessing import LabelEncoder
import eli5 as eli
import pdb
df = pd.read_csv('titanic_train.csv')
df_target = df['Survived']
drop_Attbr = ['PassengerId', 'Name', 'Ticket', 'Cabin','Survived','Sex','Embarked']
df_labels = df.drop(drop_Attbr,axis=1)
feature_types = ['categorical'] +['numerical']+(['categorical']* 2)+['numerical']
df_train, df_test, y_train, y_test = train_test_split(df_labels, df_target, test_size=1/3, random_state=42)
automl = autosklearn.classification.AutoSklearnClassifier(
        time_left_for_this_task=15,
        per_run_time_limit=5,
        ensemble_size=1,
        disable_evaluator_output=False,
        resampling_strategy='holdout',
        resampling_strategy_arguments={'train_size': 0.67},
        include_estimators=['xgradient_boosting']
    )
automl.fit(df_train, y_train,feat_type=feature_types)
y_hat = automl.predict(df_test)
a_score = sklearn.metrics.accuracy_score(y_test, y_hat)
print("Accuracy score "+str(a_score))

Я ищу результат как:

Feature 1 : Feature Importance score 1;
Feature 2 : Feature Importance score 2;
Feature 3 : Feature Importance score 3;
Feature 4 : Feature Importance score 4;
Feature 5 : Feature Importance score 5;

Answer 1

Попробуйте!

for identifier in automl._automl._automl.model_:
    if identifier in automl.ensemble_.get_selected_model_identifiers():
        model = automl._automl._automl.models_[identifier].pipeline_._final_estimator()
        print(model.get_score())