Как определить, какая складка была окончательно использована в качестве теста при CV?

Question

Как я могу определить, какая складка была окончательно использована в качестве теста, а какая - в качестве тренировки при 5-кратной перекрестной проверке в пакете mlr? Методы $resampling$train.inds и $resampling$test.inds возвращают все 5 сгибов без информации, которая в конечном итоге использовалась для обучения и тестирования.

library("mlr")

regr_task = makeRegrTask(data = mtcars, target = "hp")
learner = makeLearner("regr.ranger", 
                      importance = "impurity", 
                      num.threads = 3)
par_set = makeParamSet(
   makeIntegerParam("num.trees", lower = 100L, upper = 500L),
   makeIntegerParam("mtry", lower = 4L, upper = 8L)
)
rdesc = makeResampleDesc("CV", iters = 5, predict = "both")
meas = rmse
ctrl = makeTuneControlGrid()
set.seed(1)
tuned_model = tuneParams(learner = learner,
                         task = regr_task,
                         resampling = rdesc,
                         measures = list(meas, setAggregation(meas, train.mean)),
                         par.set = par_set,
                         control = ctrl,
                         show.info = FALSE)
tuned_model
model_rf = setHyperPars(learner = learner, par.vals = tuned_model$x)
set.seed(1)
model_rf = train(learner = model_rf, task = regr_task)
model_rf

tuned_model$resampling$train.inds
tuned_model$resampling$test.inds

Answer 1

Здесь все перемешано.

Вы разбиваете свои данные на 5 сгибов. Каждый фолд состоит из данных тестирования и . Вот почему вы получаете список 5 для $resampling$train.inds и $resampling$test.inds. Если вы разделитесь на 5 сгибов, вы будете тренироваться на 4 разделах (80% данных) и оценивать на 1 разделе (20% данных).

Правильная формулировка будет выглядеть следующим образом: «Какие индексы использовались в каком сгибе для обучения и тестирования?». Код ниже отвечает на это.

tuned_model$resampling$train.inds
[[1]]
 [1] 10 32  6 15 20 28 26 12  8 24 31 27 22  2 13 29 17 11  1  3 16 18 21 19  9  5

[[2]]
 [1] 10  6 15 28 26 12 23 30  8 25 24  7 31 27 14  2 13 29 17  1 16  4 21 19  9

[[3]]
 [1] 10 32 20 26 12 23 30  8 25  7 27 22 14  2 13 29 17 11  1  3 16 18  4 19  5

[[4]]
 [1] 32  6 15 20 28 26 12 23 30 25 24  7 31 22 14 13 17 11  1  3 18  4 21 19  9  5

[[5]]
 [1] 10 32  6 15 20 28 23 30  8 25 24  7 31 27 22 14  2 29 11  3 16 18  4 21  9  5

> tuned_model$resampling$test.inds
[[1]]
[1]  4  7 14 23 25 30

[[2]]
[1]  3  5 11 18 20 22 32

[[3]]
[1]  6  9 15 21 24 28 31

[[4]]
[1]  2  8 10 16 27 29

[[5]]
[1]  1 12 13 17 19 26