Как заставить модель XGBoost учиться на своих ошибках - PullRequest
0 голосов
/ 23 октября 2019

Моя модель XGBoost регулярно допускает ошибки в прогнозировании на одних и тех же выборках. Я хочу, чтобы модель знала свои ошибки и корректно предсказывала поведение модели. Как я могу это сделать?

Я пытался решить проблему путем уменьшения порога логистической регрессии (путем повышения чувствительности модели), но это приводит к радикальному увеличению ложных положительных прогнозов. Я также пытался настроить параметры модели (colsample by tree, subsample, min_child_weight, max_depth), но это не помогло.

В программном обеспечении для распознавания текста я столкнулся с некоторой функцией, которая позволяет сказать программе «выпредсказал букву неправильно ", и, таким образом, чтобы научить модель правильно распознавать букву.

Есть ли что-то похожее в машинном обучении?

Может быть, есть некоторые методы регуляризации, которыеперераспределить вес между функциями.

Спасибо.

1 Ответ

1 голос
/ 05 ноября 2019

Вы проверяли, являются ли эти образцы выбросами? Если это так, попробуйте сделать вашу модель более устойчивой к ним, изменив гиперпараметры или масштабировав набор данных

...