Рассчитайте все комбинации переменных и различные значения df, используя R data.table

Question

Как я могу запустить comboGeneral со всеми возможными m, используя data.table, чтобы получить все возможные комбинации переменных?Затем, как я могу вычислить различное число во всех подмножествах данных, используя эти комбинации переменных?

Вот версия purrr и dplyr.Мне нужно NMS и рассчитывает с использованием data.table.

library(data.table); library(dplyr); library(magrittr); library(RcppAlgos); library(purrr)

num_m <- seq_len(ncol(mtcars))
nam_list <- names(mtcars)

nms <- map(num_m, ~comboGeneral(nam_list, m = .x, FUN = c)) %>% unlist(recursive = FALSE)

counts <- map_dbl(nms, ~(mtcars %>% select(.x) %>% n_distinct()))

Answer 1

Непонятно, чего вы надеетесь достичь, используя data.table специально для первой части.comboGeneral от RccpAlgos, поэтому я предполагаю, что он довольно сильно оптимизирован ... combn в base R является альтернативой (на самом деле это не то, что data.table будет иметь какую-либо реализацию для ...):

nms = unlist(lapply(num_m, combn, x = nam_list, simplify = FALSE), recursive = FALSE)

Имея это в виду, в 10101 * есть несколько способов:

mtcars = as.data.table(mtcars)
counts = sapply(nms, uniqueN, x = mtcars)

Или

sapply(nms, function(nm) nrow(mtcars[ , TRUE, keyby = nm]))

Или

sapply(nms, function(nm) nrow(unique(mtcars, by = nm)))

Кажется, что первый вариант не только самый краткий, но и самый эффективный:

library(microbenchmark)

microbenchmark(times = 100L,
               map_dbl(nms, ~(mtcars %>% select(.x) %>% n_distinct())),
               sapply(nms, uniqueN, x = mtcars),
               sapply(nms, function(nm) nrow(mtcars[ , TRUE, keyby = nm])),
               sapply(nms, function(nm) nrow(unique(mtcars, by = nm))))
# Unit: milliseconds
#                                                        expr        min         lq
#     map_dbl(nms, ~(mtcars %>% select(.x) %>% n_distinct())) 2246.10862 2365.33801
#                            sapply(nms, uniqueN, x = mtcars)   66.16144   68.95391
#  sapply(nms, function(nm) nrow(mtcars[, TRUE, keyby = nm])) 1659.20425 1701.79188
#     sapply(nms, function(nm) nrow(unique(mtcars, by = nm)))  102.42203  106.87100
#        mean     median         uq       max neval
#  2469.50648 2448.44821 2544.00350 3530.6513   100
#    73.28518   71.54861   75.85161  118.5919   100
#  1796.30372 1766.59618 1825.97374 2881.2376   100
#   113.63032  111.28377  118.22441  174.2691   100

Что касается ускорения первого шага, вы можете получить ускорение примерно на 10%, сбросив сахар на map и для необработанного lapply:

microbenchmark(times = 1000L,
               lapply(num_m, combn, x = nam_list, simplify = FALSE),
               map(num_m, ~comboGeneral(nam_list, m = .x, FUN = c)),
               lapply(num_m, function(m) comboGeneral(nam_list, m, FUN = c)))
# Unit: microseconds
#                                                           expr      min        lq
#           lapply(num_m, combn, x = nam_list, simplify = FALSE) 1718.994 1847.3710
#           map(num_m, ~comboGeneral(nam_list, m = .x, FUN = c))  564.076  629.5120
#  lapply(num_m, function(m) comboGeneral(nam_list, m, FUN = c))  473.135  525.2655
#       mean    median        uq      max neval
#  2088.7454 1921.8840 2016.0275 7789.501  1000
#   713.8342  661.0455  709.4650 3800.253  1000
#   593.7732  550.2460  583.7005 5190.982  1000

Примечание: Мы не можем использовать lapply(num_m, comboGeneral, v = nam_list, FUN = c), потому что FUN будет интерпретироваться как аргумент lapply, а не comboGeneral.