Вопрос относительно k-кратной перекрестной проверки для KNN с использованием R - PullRequest
Новая
       35

Вопрос относительно k-кратной перекрестной проверки для KNN с использованием R

0 голосов
/ 24 марта 2019

Я пытаюсь установить 5-кратную перекрестную проверку для нескольких значений k. Я использовал набор данных OJ в пакете ISLR.

мой код, следующий: 

library(ISLR)
library(class)
ks=c(1:5)
err.rate.test <- numeric(length = 5)
folds <- cut(seq(1,nrow(OJ)),breaks=5,labels=FALSE)

for (j in seq(along = ks)) {
  set.seed(123)
  cv.knn <- sapply(1:5, FUN = function(i) {
    testID <- which(folds == i, arr.ind = TRUE)
    test.X <- OJ[testID, 3]
    test.Y <- OJ[testID, 1]
    train.X <- OJ[-testID, 3]
    train.Y <- OJ[-testID, 1]
    knn.test <- knn(data.frame(train.X), data.frame(test.X), train.Y, k = ks[j])
    cv.test.est <- mean(knn.test != test.Y)
    return(cv.test.est)
  })
  err.rate.test[j] <- mean(cv.knn)

}


err.rate.test
[1] 0.3757009 0.3757009 0.3757009 0.3757009 0.3757009

Код не дает ошибок. Но по какой-то причине мой коэффициент ошибок по тестам для каждого значения k одинаков. Это кажется мне странным. Поэтому я предполагаю, что с моим кодом что-то не так.

Может кто-нибудь помочь мне разобраться?

Спасибо

1 Ответ

4 голосов
/ 25 марта 2019

удалить set.seed(123), это приводит к частоте повторных ошибок.

set.seed используется для воспроизводимости, гарантируя, что любой случайный поиск в сетке или оценки параметров остаются постоянными, то есть все оценки параметров, которые входят ваппроксимация модели knn будет одинаковой для всех исполнений, что приведет к тем же прогнозам и, следовательно, к тем же показателям ошибок.

...