Как разделить линейную комбинацию предикторов вместо предиктора для модели CART в R

Question

Деревья классификации и регрессии Бреймана и др. Упоминали об использовании линейной комбинации предикторов при разбиении узла.Я пытался найти способ попробовать это с R напрасно.

Существуют пакеты дерева или rpart, которые предполагают разбиение на одномерный предиктор, и они не допускают никакой настройки с линейной комбинацией.Должен ли я создать свой собственный пакет?

Answer 1

Я не использовал его раньше, но вы можете взглянуть на oblique.tree package на CRAN.

Пример в ?oblique.tree фактически добавляет вывод PCA в ковариатах,

data(crabs, package = "MASS")
aug.crabs.data <- data.frame(   g=factor(rep(1:4,each=50)),
                predict(princomp(crabs[,4:8]))[,2:3])

получая данные, которые выглядят так:

где ковариаты являются 2-м и 3-м основными компонентами. Тогда он, очевидно, может соответствовать дереву решений, которое разбивается на линейные комбинации этих переменных:

ob.tree <- oblique.tree(formula     = g~.,
            data        = aug.crabs.data,
            oblique.splits  = "only")
plot(ob.tree)
text(ob.tree,cex = 0.5)