Почему квартальная линейная регрессия в OLS statsmodels не соответствует LibreOffice Calc? - PullRequest
Новая
       16

Почему квартальная линейная регрессия в OLS statsmodels не соответствует LibreOffice Calc?

0 голосов
/ 08 февраля 2019

Я использую линейную регрессию statsmodels с формулой четверти Пэтси y ~ x + I(x**2) + I(x**3) + I(x**4), но полученная регрессия плохо соответствует данным по сравнению с LibreOffice Calc.Почему это не соответствует тому, что производит LibreOffice Calc?

код statsmodels: 

import io
import numpy
import pandas
import matplotlib
import matplotlib.offsetbox
import statsmodels.tools
import statsmodels.formula.api

csv_data = """Year,CrudeRate
1999,197.0
2000,196.5
2001,194.3
2002,193.7
2003,192.0
2004,189.2
2005,189.3
2006,187.6
2007,186.9
2008,186.0
2009,185.0
2010,186.2
2011,185.1
2012,185.6
2013,185.0
2014,185.6
2015,185.4
2016,185.1
2017,183.9
"""

df = pandas.read_csv(io.StringIO(csv_data))

cause = "Malignant neoplasms"
x = df["Year"].values
y = df["CrudeRate"].values

olsdata = {"x": x, "y": y}
formula = "y ~ x + I(x**2) + I(x**3) + I(x**4)"
model = statsmodels.formula.api.ols(formula, olsdata).fit()

print(model.params)

df.plot("Year", "CrudeRate", kind="scatter", grid=True, title="Deaths from {}".format(cause))

func = numpy.poly1d(model.params.values[::-1])
matplotlib.pyplot.plot(df["Year"], func(df["Year"]))

matplotlib.pyplot.show()

Производит следующие коэффициенты: 

Intercept    9.091650e-08
x            9.127904e-05
I(x ** 2)    6.109623e-02
I(x ** 3)   -6.059164e-05
I(x ** 4)    1.503399e-08

И следующий график:

Figure1

Однако, если я перенесу данные в LibreOffice Calc, нажмите на график и выберите «Вставить линию тренда ...», выберите «Полином»,введите «Градусы» = 4 и выберите «Показать уравнение», результирующая линия тренда отличается от statsmodels и выглядит более подходящей:

Figure2

Коэффициенты: 

Intercept = 1.35e10
x =          2.69e7
x^2 =       -2.01e4
x^3 =          6.69
x^4 =      -0.83e-3

версия statsmodels: 

$ pip3 list | grep statsmodels
statsmodels                  0.9.0

Редактировать: Кубический также не соответствует, но квадратичный.

Редактировать: Уменьшить Year (и делает то же самое в LibreOffice) соответствует: 

df = pandas.read_csv(io.StringIO(csv_data))
df["Year"] = df["Year"] - 1998

Коэффициенты и график после уменьшения: 

Intercept    197.762384
x             -0.311548
I(x ** 2)     -0.315944
I(x ** 3)      0.031304
I(x ** 4)     -0.000833

Figure3

1 Ответ

0 голосов
/ 09 февраля 2019

Судя по комментариям @Josef, проблема в том, что большие числа не работают с полиномами высокого порядка, а statsmodels не масштабирует домен автоматически.Кроме того, я не упомянул об этом в исходном вопросе, потому что не ожидал, что домен нужно будет преобразовать, но мне также нужно было предсказать значение вне выборки на основе года, поэтому я сделал этоконец диапазона: 

predict_x = +5
min_scaled_domain = -1
max_scaled_domain = +1
df["Year"] = df["Year"].transform(lambda x: numpy.interp(x, (x.min(), x.max() + predict_x), (min_scaled_domain, max_scaled_domain)))

Это преобразование создает правильно подобранную регрессию:

Figure4

Если преобразование того же доменаприменяется в LibreOffice Calc, затем коэффициенты совпадают.

Наконец, для печати прогнозируемого значения: 

func = numpy.polynomial.Polynomial(model.params)
print(func(max_scaled_domain))
...