Вычисление выборочной статистики для вектора данных со связями, который сохраняется в виде таблицы частот - PullRequest
0 голосов
/ 07 сентября 2018

Я пытаюсь получить сводную статистику (среднее значение, дисперсию и квантили) из вектора данных со связанными значениями. В частности, он хранится в таблице распределения частот: уникальные значения данных var и количество связей frequency.

Я знаю, что мог бы использовать функцию rep, чтобы сначала развернуть вектор до его полного формата:

xx <- rep(mydata$var, mydata$frequency)

тогда делай стандарт

mean(xx)
var(xx)
quantile(xx)

Но частота действительно велика, и у меня много уникальных значений, что делает программу очень медленной. Есть ли способ вычислить эту статистику непосредственно из var и frequency?

1 Ответ

0 голосов
/ 07 сентября 2018
set.seed(0)
x <- runif(10)                ## unique data values
k <- sample.int(5, 10, TRUE)  ## frequency

n <- sum(k)
xx <- rep.int(x, k)           ## "expanded" data

#################
## sample mean ##
#################

mean(xx)  ## using `xx`
#[1] 0.6339458

mu <- c(crossprod(x, k)) / n  ## using `x` and `k`
#[1] 0.6339458

#####################
## sample variance ##
#####################

var(xx) * (n - 1) / n  ## using `xx`
#[1] 0.06862544

v <- c(crossprod(x ^ 2, k)) / n - mu * mu  ## using `x` and `k`
#[1] 0.06862544

Вычисление квантилей гораздо сложнее, но выполнимо. Сначала нам нужно понять, как квантили вычисляются стандартным образом.

xx <- sort(xx)
pp <- seq(0, 1, length = n)
plot(pp, xx); abline(v = pp, col = 8, lty = 2)

Стандартное квантильное вычисление является проблемой линейной интерполяции. Однако, когда данные имеют связи, мы можем ясно видеть, что существуют "прогоны" (с одинаковым значением) и "скачки" (между двумя значениями). ) в сюжет. Линейная интерполяция требуется только при «скачках», тогда как при «бегах» квантили - это только значения пробежек.

Следующая функция находит квантили только с использованием x и k. Для демонстрации есть аргумент verbose. Если TRUE, то получится график и фрейм данных, содержащий информацию о «бегах» (и «скачках»).

find_quantile <- function (x, k, prob = seq(0, 1, length = 5), verbose = FALSE) {

  if (is.unsorted(x)) {
    ind <- order(x); x <- x[ind]; k <- k[ind]
    }

  m <- length(x)     ## number of unique values
  n <- sum(k)        ## number of data
  d <- 1 / (n - 1)   ## break [0, 1] into (n - 1) intervals

  ## the right and left end of each run
  r <- (cumsum(k) - 1) * d
  l <- r - (k - 1) * d

  if (verbose) {

    breaks <- seq(0, 1, d)
    plot(r, x, "n", xlab = "prob (p)", ylab = "quantile (xq)", xlim = c(0, 1))
    abline(v = breaks, col = 8, lty = 2)

    ## sketch each run
    segments(l, x, r, x, lwd = 3)

    ## sketch each jump
    segments(r[-m], x[-m], l[-1], x[-1], lwd = 3, col = 2)

    ## sketch `prob`
    abline(v = prob, col = 3)

    print( data.frame(x, k, l, r) )
    }

  ## initialize the vector of quantiles 
  xq <- numeric(length(prob))

  run <- rbind(l, r)
  i <- findInterval(prob, run, rightmost.closed = TRUE)

  ## odd integers in `i` means that `prob` lies on runs
  ## quantiles on runs are just run values
  on_run <- (i %% 2) != 0
  run_id <- (i[on_run] + 1) / 2
  xq[on_run] <- x[run_id]

  ## even integers in `i` means that `prob` lies on jumps
  ## quantiles on jumps are linear interpolations
  on_jump <- !on_run
  jump_id <- i[on_jump] / 2
  xl <- x[jump_id]      ## x-value to the left of the jump
  xr <- x[jump_id + 1]  ## x-value to the right of the jump
  pl <- r[jump_id]      ## percentile to the left of the jump
  pr <- l[jump_id + 1]  ## percentile to the right of the jump
  p  <- prob[on_jump]   ## probability on the jump
  ## evaluate the line `(pl, xl) -- (pr, xr)` at `p`
  xq[on_jump] <- (xr - xl) / (pr - pl) * (p - pl) + xl

  xq
  }

Применение функции к приведенным выше примерам с помощью verbose = TRUE дает:

result <- find_quantile(x, k, prob = seq(0, 1, length = 5), TRUE)

#           x k         l         r
#1  0.2016819 4 0.0000000 0.1111111
#2  0.2655087 2 0.1481481 0.1851852
#3  0.3721239 1 0.2222222 0.2222222
#4  0.5728534 4 0.2592593 0.3703704
#5  0.6291140 2 0.4074074 0.4444444
#6  0.6607978 5 0.4814815 0.6296296
#7  0.8966972 1 0.6666667 0.6666667
#8  0.8983897 3 0.7037037 0.7777778
#9  0.9082078 2 0.8148148 0.8518519
#10 0.9446753 4 0.8888889 1.0000000

Каждая строка фрейма данных является «прогоном». x дает значения прогона, k - длина пробега, а l и r - левый и правый процентиль пробега. На рисунке «трассы» нарисованы черными горизонтальными линиями.

Информация о «скачках» подразумевается значениями r, x строки и значениями l, x следующей строки. На рисунке «прыжки» нарисованы красными линиями.

Вертикальные зеленые линии обозначают значения prob, которые мы даем.

Вычисленные квантили

result
#[1] 0.2016819 0.5226710 0.6607978 0.8983897 0.9446753

которые идентичны

quantile(xx, names = FALSE)
#[1] 0.2016819 0.5226710 0.6607978 0.8983897 0.9446753
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...