Реализует ли catboost xgboost (экстремальное повышение градиента) или простое повышение градиента?

Question

На своем сайте они говорят «повышение градиента», но кажется, что люди здесь сравнивают его с другим алгоритмом «xgboost». Я хотел бы знать, является ли это реальный экстремальный алгоритм повышения градиента. спасибо

Answer 1

Повышение градиента - это мета-алгоритм. Там нет простого повышения градиента. Каждая библиотека повышения использует свой собственный уникальный алгоритм для поиска деревьев регрессии, в результате мы получаем разные результаты.

Экстремальное повышение градиента - это просто реализация стандартного повышения градиента на деревьях решений от xgboost с некоторыми эвристиками / регуляризациями для улучшения качества моделей и специальной схемой для изучения деревьев регрессии

CatBoost - еще одна реализация стандартного повышения градиента с другим набором регуляризаций / эвристик.

Так что это разные алгоритмы.