линейная регрессия "NA" оценка только для последнего коэффициента

Question

Я запускаю функцию итога (lm (...)) в R. Когда я печатаю коэффициенты, я получаю оценки для всех переменных, кроме последней. Последняя переменная, которую я получаю "NA".

Я попытался переключить последний столбец данных на другой столбец, и снова все, что было в последнем столбце, получило «NA», но все остальное получило оценки.

Немного о данных: у меня есть около 5 переменных с данными в каждой строке, а затем у меня есть 12 сезонных переменных, которые, например, если месяц январь, то в январе каждый день - 1, иначе 0. Для переменной февраля есть 1, если месяц февраль и 0 в противном случае и так далее. Кто-нибудь знает, что будет производить «NA» в последнем столбце оценки коэффициента? Итак, когда я впервые запустил его, это был коэффициент для фиктивной переменной декабря. Это из-за моих ежемесячных фиктивных переменных? Спасибо

Это мой воспроизводимый пример.

dat<- data.frame(
         one<-c(sample(1000:1239)),
         two<-c(sample(200:439)),
         three<-c(sample(600:839)),
         Jan<-c(rep(1,20), rep(0,220)),
         Feb<-c(rep(0,20),rep(1,20),rep(0,200)),
         Mar<-c(rep(0,40),rep(1,20),rep(0,180)),
         Apr<-c(rep(0,60),rep(1,20),rep(0,160)),
         May<-c(rep(0,80),rep(1,20),rep(0,140)),
         Jun<-c(rep(0,100),rep(1,20),rep(0,120)),
         Jul<-c(rep(0,120),rep(1,20),rep(0,100)),
         Aug<-c(rep(0,140),rep(1,20),rep(0,80)),
         Sep<-c(rep(0,160),rep(1,20),rep(0,60)),
         Oct<-c(rep(0,180),rep(1,20),rep(0,40)),
         Nov<-c(rep(0,200),rep(1,20),rep(0,20)),
         Dec<-c(rep(0,220),rep(1,20)
      )

attach(dat)

summary(lm(one ~ two + three + Jan + Feb + 
          Mar + Apr + May + Jun + Jul + Aug + Sep + Oct + Nov + Dec))

Answer 1

Вы должны подумать немного больше о том, как определяется ваша модель.

Вот ваш подход (отредактированный для удобства чтения):

> set.seed(101)
> dat<-data.frame(one=c(sample(1000:1239)),
                 two=c(sample(200:439)),
                 three=c(sample(600:839)),
                 Jan=c(rep(1,20),rep(0,220)),
                 Feb=c(rep(0,20),rep(1,20),rep(0,200)),
                 Mar=c(rep(0,40),rep(1,20),rep(0,180)),
                 Apr=c(rep(0,60),rep(1,20),rep(0,160)),
                 May=c(rep(0,80),rep(1,20),rep(0,140)),
                 Jun=c(rep(0,100),rep(1,20),rep(0,120)),
                 Jul=c(rep(0,120),rep(1,20),rep(0,100)),
                 Aug=c(rep(0,140),rep(1,20),rep(0,80)),
                 Sep=c(rep(0,160),rep(1,20),rep(0,60)),
                 Oct=c(rep(0,180),rep(1,20),rep(0,40)),
                 Nov=c(rep(0,200),rep(1,20),rep(0,20)),
                 Dec=c(rep(0,220),rep(1,20)))
> summary(lm(one ~ two + three + Jan + Feb + Mar + Apr + 
         May + Jun + Jul + Aug + Sep + Oct + Nov + Dec,
            data=dat))

И ответы:

[snip]
Coefficients: (1 not defined because of singularities)

обратите внимание на эту строку , это указывает на то, что R (и любой другой статистический пакет, который вы решите использовать) не может оценить все параметры, потому что все переменные предиктора не являются линейно независимыми.

              Estimate Std. Error t value Pr(>|t|)    
(Intercept) 1149.55556   53.52499  21.477   <2e-16 ***

Перехват здесь представляет прогнозируемое значение, когда все переменные предиктора равны нулю. В любом конкретном случае интерпретация перехвата зависит от того, как вы параметризовали свою модель. Фиктивные переменные, которые вы определили для месяца, не являются линейно независимыми; lm достаточно умен, чтобы обнаружить это и отбросить некоторые неопределяемые (линейно зависимые) переменные предиктора. Детали того, какой конкретный предиктор (ы) отбрасывается в этом случае, неясны и технически (вам, вероятно, придется заглянуть внутрь функции lm.fit, но вы, вероятно, не хотите этого делать). В этом случае R решает выбросить предиктор December. Поэтому, если мы установим все предикторы (two, three и все манекены за январь-ноябрь) на ноль, мы получим ожидаемое значение, когда two = 0 и three = 0 и когда месяц не равен ни одному из января-ноября - то есть ожидаемое значение для декабря.

two           -0.09670    0.06621  -1.460   0.1455    
three          0.02446    0.06666   0.367   0.7141    
Jan          -19.49744   22.17404  -0.879   0.3802    
Feb          -28.22652   22.27438  -1.267   0.2064    
Mar           -6.05246   22.25468  -0.272   0.7859    
Apr           -5.60192   22.41204  -0.250   0.8029    
May          -13.19127   22.34289  -0.590   0.5555    
Jun          -19.69547   22.14274  -0.889   0.3747    
Jul          -44.45511   22.20837  -2.002   0.0465 *  
Aug           -2.08404   22.26202  -0.094   0.9255    
Sep          -10.13351   22.10252  -0.458   0.6470    
Oct          -31.80482   22.33335  -1.424   0.1558    
Nov          -20.35348   22.09953  -0.921   0.3580    
Dec                 NA         NA      NA       NA    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 69.81 on 226 degrees of freedom
Multiple R-squared: 0.04381,    Adjusted R-squared: -0.01119 
F-statistic: 0.7966 on 13 and 226 DF,  p-value: 0.6635 

Теперь сделайте это снова, на этот раз настройте формальную формулу, которая использует -1, чтобы отбросить член перехвата (мы сбрасываем случайное начальное число для воспроизводимости):

> set.seed(101)
> dat1 <- data.frame(one=c(sample(1000:1239)),two=c(sample(200:439)),
      three=c(sample(600:839)),
                    month=factor(rep(month.abb,each=20),levels=month.abb))
> summary(lm(one ~ two + three + month-1, data=dat1))

    Coefficients:
           Estimate Std. Error t value Pr(>|t|)    
two        -0.09670    0.06621  -1.460    0.146    
three       0.02446    0.06666   0.367    0.714    

Оценки для two и three такие же, как и раньше.

monthJan 1130.05812   52.79625  21.404   <2e-16 ***
monthFeb 1121.32904   55.18864  20.318   <2e-16 ***
monthMar 1143.50310   53.59603  21.336   <2e-16 ***
monthApr 1143.95365   54.99724  20.800   <2e-16 ***
monthMay 1136.36429   53.38218  21.287   <2e-16 ***
monthJun 1129.86010   53.85865  20.978   <2e-16 ***
monthJul 1105.10045   54.94940  20.111   <2e-16 ***
monthAug 1147.47152   54.57201  21.027   <2e-16 ***
monthSep 1139.42205   53.58611  21.263   <2e-16 ***
monthOct 1117.75075   55.35703  20.192   <2e-16 ***
monthNov 1129.20208   53.54934  21.087   <2e-16 ***
monthDec 1149.55556   53.52499  21.477   <2e-16 ***

Оценка за декабрь такая же, как и оценка перехвата выше. Оценки параметров других месяцев равны (перехват + предыдущее значение). Значения p отличаются, потому что их значение изменилось. Ранее они были тестом различий каждого месяца с декабря; теперь они являются тестом различий каждого месяца от базового значения, равного нулю.

Answer 2

Вы получаете NA для последней переменной, потому что она линейно зависит от остальных 11 переменных.Функция R lm (и все правильно построенные функции регрессии R) автоматически исключит для вас линейно зависимые переменные.Это обрабатывается в функции model.matrix.Если все остальные переменные равны 0, то декабрь будет равен 1. Это связано с исключением наименьшего слагаемого множителя, но не точно так же.

Возможно, есть лучшие способы сделать это.

А где взять информацию с декабря?... Это в терминах (перехвата).Если вы хотите, чтобы все уровни были помечены так, как вы ожидаете, попробуйте добавить к формуле -1 или +0, и вы увидите, что декабрь волшебным образом появляется из туманов.