Использование GridSearchCV и регрессора случайных лесов с одинаковыми параметрами дает разные результаты - PullRequest
Новая
       40

Использование GridSearchCV и регрессора случайных лесов с одинаковыми параметрами дает разные результаты

0 голосов
/ 16 октября 2018

Как следует из огромного заголовка, я пытаюсь использовать GridSearchCV, чтобы найти лучшие параметры для регрессора случайных лесов, и я измеряю свои результаты с помощью mse. 

Inputs_Treino = dataset.iloc[:253,1:4].values
Outputs_Treino = dataset.iloc[:253,-1].values
Inputs_Teste = dataset.iloc[254:,1:4].values
Outputs_Teste = dataset.iloc[254:,-1].values

estimator = RandomForestRegressor()
para_grids = {
            "n_estimators" : [10,50,100],
            "max_features" : ["auto", "log2", "sqrt"],
            "bootstrap"    : [True, False]
        }


grid = GridSearchCV(estimator, para_grids, scoring = 'mean_squared_error')
grid.fit(Inputs_Treino, Outputs_Treino)
forest = grid.best_estimator_

reg_prediction=forest.predict(Inputs_Teste)

print (grid.best_score_, grid.best_params_)

mse = mean_absolute_error(Outputs_Teste, reg_prediction)

Это сутькод (ничего сложного, я знаю, только начать все это)

Когда я печатаю результат grid.best_estimator_, я получаю это 

RandomForestRegressor(bootstrap=True, criterion='mse', max_depth=None,
           max_features='auto', max_leaf_nodes=None,
           min_impurity_split=1e-07, min_samples_leaf=1,
           min_samples_split=2, min_weight_fraction_leaf=0.0,
           n_estimators=50, n_jobs=1, oob_score=False, random_state=None,
           verbose=0, warm_start=False)

Проблема заключается в том, если я пытаюсь создатьрегрессора с этими параметрами (вообще не используя поиск по сетке) и обучая его таким же образом, я получаю намного больше MSE на тестовом наборе (5.483837301587303 против 43.801520165079467) 

Inputs_Treino = dataset.iloc[:253,1:4].values
Outputs_Treino = dataset.iloc[:253,-1].values
Inputs_Teste = dataset.iloc[254:,1:4].values
Outputs_Teste = dataset.iloc[254:,-1].values

regressor = RandomForestRegressor(bootstrap=True, criterion='mse', max_depth=None,
           max_features='auto', max_leaf_nodes=None,
           min_impurity_split=1e-07, min_samples_leaf=1,
           min_samples_split=2, min_weight_fraction_leaf=0.0,
           n_estimators=50, n_jobs=1, oob_score=False, random_state=None,
           verbose=0, warm_start=False)

regressor.fit(Inputs_Treino,Outputs_Treino)

#fazer as predictions
Teste_Prediction = regressor.predict(Inputs_Teste);

mse = mean_squared_error(Outputs_Teste, Teste_Prediction);

Это связано сперекрестная проверка GridSearchCV выполняет?Что мне здесь не хватает?

...