Я использовал модель XGBRegressor для прогнозирования. Код, который я использовал,
import xgboost
from sklearn.metrics import mean_squared_error
xgb = xgboost.XGBRegressor(reg = 'linear',
n_estimators=1200,
num_rounds = 1500,
learning_rate=0.3 ,#0.1
seed = 45,
gamma=0, #0
subsample = 0.7,
colsample_bytree = 1, #0.1
max_depth= 6,
min_child_weight = 1,
nthread = 4,
silent = 1)
xgb.fit(xtrain,ytrain,eval_set=[(xtrain,ytrain), (xtest, ytest)],
early_stopping_rounds = 50,
verbose = False)
y_train_pred = xgb.predict(xtrain)
predictions = xgb.predict(xtest)
Результат: поезд R ^ 2: 0,94, тест: 0,86 Поезд MSE: 11587,83, тест: 37550,05 Поезд RMSE: 107,65, тест: 193,78 Поезд MAE: 45,10, тест: 58,72
Мне нужно уменьшить RMSE, MAE и MSE. Чтобы уменьшить количество ошибок, какой параметр мне нужно настроить. Я попытался присвоить параметрам различные значения, но частота ошибок не снижается. Мне нужно добавить или удалить какие-то параметры?