Как работает Bagging в LightGBM

Question

В модели lightGBM есть 2 параметра, связанных с упаковкой в ​​мешки

bagging_fraction
bagging_freq (frequency for bagging
              0 means disable bagging; k means perform bagging at every k 
              iteration
              Note: to enable bagging, bagging_fraction should be set to 
              value smaller than 1.0 as well)

Более подробное объяснение этой функции упаковки в мешках можно найти в gdbt.Так кто-нибудь даст мне более подробное объяснение?

Answer 1

Код выполняет то, что написано в документации - он отбирает подмножество обучающих примеров размером bagging_fraction * N_train_examples.И обучение i-го дерева выполняется на этом подмножестве.Эта выборка может быть выполнена для каждого дерева (то есть для каждой итерации) или после того, как каждое дерево bagging_freq было обучено.

Например, bagging_fraction=0.5, bagging_freq=10 означает, что выборка новых 0.5*N_train_examples записей будет происходить каждые 10 итераций