Как эффективно сохранить несколько файлов .rds с распараллеливанием? - PullRequest
Новая
       37

Как эффективно сохранить несколько файлов .rds с распараллеливанием?

0 голосов
/ 20 января 2020

Я применяю функцию к другим данным ~ 2000 раз, и я хотел бы сохранять .rds после каждой итерации. Я парализовал код, используя furrr / foreach, так что на данный момент он достаточно эффективен. Однако я не знаю, как сохранять промежуточные результаты каждой итерации и одновременно сохранять время вычислений. Итак, возможно ли эффективно сохранить несколько .rds параллельно?

Воспроизводимый пример: 

library(tictoc)
library(future)

plan(multiprocess)

custom_f <- function(x) {
  saveRDS(rep(seq(x:(x+10000), 10000) ), 
          file = paste0(x,'.RDS'), 
          compress = F)
}

tic()
furrr::future_map(1:10, custom_f)
toc()
# 95.38 sec elapsed


tic()
for (i in 1:10){
  custom_f(i)
}
toc()
# 62.93 sec elapsed
...