Logisti c регрессия, возвращающая слишком много коэффициентов

Question

При использовании функции linear_model.LogisticRegression() для получения 3 коэффициентов регрессии для 3 переменных-предикторов (X) по отношению к зависимой переменной (y) я вызываю функцию logref.coef_, чтобы увидеть каждый коэффициент, и вместо этого появилось около 200 значений. Как удалось зарегистрировать гораздо больше функций, чем я изначально вводил? Я знаю, что мне нужно иметь только 3 переменные, которые соответствуют каждой переменной-предиктору.

Image1 показывает вывод для: dataframe.head()

Изображение 2 показывает вывод для: print(logreg.coef_)

import pandas as pd
import numpy as np
from scipy import stats
from sklearn import linear_model

data = pd.read_excel('DATASET')

dataframe = data[['GNIpc','Marriage female', 'waged male','waged  female']].replace('..', 
np.nan).dropna()


X = dataframe[['Marriage female', 'waged male','waged  female']]
y = dataframe[['GNIpc']]
logreg = linear_model.LogisticRegression()
logreg.fit(X, y)

print(logreg.coef_)
>>> [[-0.0532999   0.0282386  -0.36440672]
    [-0.03349039 -0.09097408  0.0516077 ]
    [ 0.02133783 -0.10573915  0.03944377]
    [-0.02723709 -0.09365962  0.0625376 ]
    [-0.02377661  0.10073943 -0.6386778 ]
    [-0.0162161  -0.05130708 -0.21533241]
    [-0.09565614  0.03214048 -0.12573514]
    [-0.11774399  0.04124659 -0.08295302]
    [ 0.01697128 -0.3196196   0.18449796]
    [-0.03153424 -0.09193552  0.02516725]
    [ 0.00496581 -0.297038    0.17636911]
    [ 0.02503764 -0.13152531 -0.36763286]
    [-0.52025686  0.3663963  -0.46018477]
    [ 0.12337318 -0.41343403 -0.83253983]
    [-0.01623575 -0.02691109 -0.06407165]
    [-0.01307591 -0.10721795  0.06188949]
    [-0.08106017  0.02097464 -0.06847169]
    [-0.03246505 -0.12340276  0.03465779]
    [-0.03058392 -0.17116052  0.13834497]
    [-0.04529128 -0.08847383  0.06050442]
    [ 0.00324746 -0.70348851  0.5887903 ]
    [-0.0730169   0.04685963 -0.17306655]
    [-0.20895759  0.21741604 -0.2835841 ]
    [-0.04765593 -0.02911799 -0.04101694]
    [-0.06553731  0.01516212 -0.10556077]
    [-0.17959739  0.39386919 -0.97548649]
    [-0.03869242 -0.12421051  0.0962199 ]
    [-0.02286379 -0.10571808  0.02182333]
    [-0.91660719  0.3343537  -0.31409916]
    [-0.09193558 -0.06053258  0.04748263]
    [-0.10195001  0.07841969 -0.16552518]
    [-0.36625827 -0.46961584  0.43743011]
    [-0.49169925  0.01808853 -0.00918122]
    [-0.30465374  0.09363753 -0.09558291]
    [-0.06388412 -0.05418759  0.0341766 ]
    [-0.10131437 -0.00557687 -0.00839488]]


X.shape
>>> (42, 3)
y.shape
>>> (42, 1)

Answer 1

Если вы посмотрите на документацию используемого вами класса LogisticRegression , вы увидите:

coef_ имеет форму (1, n_features), когда данная проблема является двоичной.

Ваша заданная проблема, как она указана в классификаторе, не является двоичной.

Кроме того, если вы внимательно осмотрите свой coef_, вы увидите, что вы иметь список списков в качестве вывода. Каждый внутренний список имеет три элемента, которые соответствуют трем коэффициентам модели для бинарного решения задачи. Это также объясняется в документации , цитата:

В случае мультикласса алгоритм обучения использует схему «один против отдыха» (OvR), если опция «multi_class» имеет значение «ovr» и использует кросс-энтропийную потерю, если для параметра «multi_class» установлено значение «multinomial».

Я бы рекомендовал ознакомиться с основами Linear / Logisti c Регрессия, Python списки и стратегии, как подходить к проблемам мультикласса, например, с помощью стратегии Мульти-класс / мульти-метка * One-vs-the-rest (OvR) .