R Ошибка параллельной обработки `Ошибка в checkForRemoteErrors (val): 6 узлов вызвали ошибки;первая ошибка: индекс за пределами - PullRequest
Новая
       42

R Ошибка параллельной обработки `Ошибка в checkForRemoteErrors (val): 6 узлов вызвали ошибки;первая ошибка: индекс за пределами

0 голосов
/ 20 сентября 2018

Я изучаю параллельную обработку как способ обработки некоторых огромных наборов данных.

У меня есть некоторые переменные, предопределенные следующим образом: 

CV <- function(mean, sd) {(sd / mean) * 100} 
distThreshold <- 5 # Distance threshold 
CVThreshold <- 20 # CV threshold 

LocalCV <- list()
Num.CV <- list()

Затем загрузите библиотеку parallel, выделите базовую переменную и библиотеку для кластеров: 

library(parallel)
clust_cores <- makeCluster(detectCores(logical = T) ) 
clusterExport(clust_cores, c("i","YieldData2rd","CV", "distThreshold", "CVThreshold"))
clusterEvalQ(clust_cores, library(sp))

Затемпередать аргумент кластера clust_cores в parSapply: 

for (i in seq(YieldData2rd)) {
  LocalCV[[i]] = parSapply(clust_cores, X = 1:length(YieldData2rd[[i]]), 
                   FUN = function(pt) {
                     d = spDistsN1(YieldData2rd[[i]], YieldData2rd[[i]][pt,])
                     ret = CV(mean = mean(YieldData2rd[[i]][d < distThreshold, ]$yield), 
                              sd = sd(YieldData2rd[[i]][d < distThreshold, ]$yield))
                     return(ret)
                   }) # calculate CV in the local neighbour 
}

stopCluster(clust_cores)

Тогда я получу Error in checkForRemoteErrors(val) : 6 nodes produced errors; first error: subscript out of bounds в дополнение к warning messages: 1: closing unused connection (<-localhost:11688).

Пожалуйста, дайте мне знать, как решить эту проблему.

Для воспроизводимого примера я создаю большой объект списка, который прекрасно работает в исходном цикле for без компонентов параллельной обработки.

library('rgdal')

Yield1 <- data.frame(yield=rnorm(460, mean = 10), x1=rnorm(460, mean = 1843235), x2=rnorm(460,mean = 5802532))
Yield2 <- data.frame(yield=rnorm(408, mean = 10), x1=rnorm(408, mean = 1843235), x2=rnorm(408, mean = 5802532))
Yield3 <- data.frame(yield=rnorm(369, mean = 10), x1=rnorm(369, mean = 1843235), x2=rnorm(369, mean = 5802532))

coordinates(Yield1) <- c('x1', 'x2')
coordinates(Yield2) <- c('x1', 'x2')
coordinates(Yield3) <- c('x1', 'x2')

YieldData2rd <- list(Yield1, Yield2, Yield3)

1 Ответ

0 голосов
/ 21 сентября 2018

Спасибо за комментарий @Omry Atia, я начал изучать пакет foreach и впервые попробовал.

library(foreach)
library(doParallel)

#setup parallel backend to use many processors
cores=detectCores()
clust_cores <- makeCluster(cores[1]-1) #not to overload your computer
registerDoParallel(clust_cores)

LocalCV = foreach(i = seq(YieldData2rd), .combine=list, .multicombine=TRUE) %dopar% {
                       LocalCV[[i]] = sapply(X = 1:length(YieldData2rd[[i]]), 
                                            FUN = function(pt) {
                                                  d = spDistsN1(YieldData2rd[[i]], YieldData2rd[[i]][pt,])
                                                ret = CV(mean = mean(YieldData2rd[[i]][d < distThreshold, ]$yield), 
                                                 sd = sd(YieldData2rd[[i]][d < distThreshold, ]$yield))
                                                 return(ret)
                                                 }) # calculate CV in the local neighbour 
                       }

stopCluster(clust_cores)

Это распечатало бы все это, не помещая LocalCV в начало foreach.

Он попробует новые коды на некоторых огромных наборах данных и посмотрит, как быстро он сможет работать.

Ссылка: параллельный запуск цикла for в R

...