Из документации randomForest для каретки здесь вы используете слишком много параметров настройки, и их необходимо поместить в сетку data.frame (см. здесь для одного примера ),Кроме того, вы определили 2 раза mtry
, количество предикторов, используемых для разделения.Я предлагаю попробовать что-то вроде:
rf_control <- trainControl(method="repeatedcv", number=5, repeats=5)
rf_grid <- expand.grid(mtry = c(floor(sqrt(ncol(x)) / 10),
floor(sqrt(ncol(x)) / 5),
floor(sqrt(ncol(x)))
)
set.seed(123)
rf_fit <- train(SalePrice ~.,
data = train_housing[,-1],
method = "rf",
trControl = rf_control,
tuneGrid = rf_grid)
rf_fit