способ сделать перекрестную проверку

Question

Допустим, у меня есть сгибы 1, сгибы 2, сгибы 3.

Я тренировал сгибы 1, сгибы 2, сгибы 3 с моделью А.

A) модель A (сложить 1) -> модель A (сложить 2) -> модель A (сложить 3)

B) модель A (сложить1) -> модель сохраненного веса A (сложить1) -> модель A (сложить2) -> модель сохраненного веса A (сложить2) -> модель A (сложить3) -> модель сохраненного веса A (сложить3) ->ансамбль 3 вес

какой путь является правильным способом сделать перекрестную проверку k-кратным и почему?

Answer 1

Это зависит от того, какова ваша конечная цель. K-Fold CV используется для поиска гиперпараметров модели.

После этого этапа вы можете изменить свой проверочный набор данных и обучить его модели на нем.

Если вы хотите использовать как можно больше данных (выполняя прогнозы), было бы неплохо обучить N моделей на N различных сгибах и объединить их прогнозы. Этот похож на boostrap, в целом, ваш ансамбль видел все данные, но он не переписывался. Этот подход в N раз требует больших вычислительных ресурсов, поэтому он все равно сводится к вашим целям.

Наконец, вы должны получить лучшие результаты при подгонке разных моделей к своим сгибам вместо одной, но для этого потребуется отдельное пространство для гиперпараметров для каждого алгоритма.