Значения CountVectorizer работают отдельно в классификаторе, не могут работать при добавлении других функций - PullRequest
Новая
       82

Значения CountVectorizer работают отдельно в классификаторе, не могут работать при добавлении других функций

1 голос
/ 20 марта 2019

У меня есть CSV с данными профиля в Твиттере, содержащее: имя, описание, количество подписчиков, число следующих, бот (класс, который я хочу предсказать)

Я успешно выполнил модель классификации при использовании только CountVectorizerзначения (xtrain) и бот (ytrain).Но я не смог добавить эту функцию в мой набор других функций. 

vectorizer = CountVectorizer()
CountVecTest = vectorizer.fit_transform(training_data.description.values.astype('U'))
CountVecTest = CountVecTest.toarray()
arr = sparse.coo_matrix(CountVecTest)
training_data["NewCol"] = arr.toarray().tolist()

rf = RandomForestClassifier(criterion='entropy', min_samples_leaf=10, min_samples_split=20)
rf = rf.fit(training_data[["followers_count","friends_count","NewCol","bot"]], training_data.bot)

ОШИБКА: 

---------------------------------------------------------------------------
ValueError                                Traceback (most recent call last)
<ipython-input-54-7d67a6586592> in <module>()
      1 rf = RandomForestClassifier(criterion='entropy', min_samples_leaf=10, min_samples_split=20)
----> 2 rf = rf.fit(training_data[["followers_count","friends_count","NewCol","bot"]], training_data.bot)

D:\0_MyFiles\0_Libraries\Documents\Anaconda3\lib\site-packages\sklearn\ensemble\forest.py in fit(self, X, y, sample_weight)
    245         """
    246         # Validate or convert input data
--> 247         X = check_array(X, accept_sparse="csc", dtype=DTYPE)
    248         y = check_array(y, accept_sparse='csc', ensure_2d=False, dtype=None)
    249         if sample_weight is not None:

D:\0_MyFiles\0_Libraries\Documents\Anaconda3\lib\site-packages\sklearn\utils\validation.py in check_array(array, accept_sparse, dtype, order, copy, force_all_finite, ensure_2d, allow_nd, ensure_min_samples, ensure_min_features, warn_on_dtype, estimator)
    431                                       force_all_finite)
    432     else:
--> 433         array = np.array(array, dtype=dtype, order=order, copy=copy)
    434 
    435         if ensure_2d:

ValueError: setting an array element with a sequence.

Я провел некоторую отладку: 

print(type(training_data.NewCol))
print(type(training_data.NewCol[0]))
>>> <class 'pandas.core.series.Series'>
>>> <class 'numpy.ndarray'>

Любая помощь будет оценена.

1 Ответ

0 голосов
/ 22 марта 2019

Я бы сделал это наоборот и добавил бы ваши функции в вашу векторизацию. Вот что я имею в виду с игрушечным примером: 

from sklearn.feature_extraction.text import CountVectorizer
from sklearn.ensemble import RandomForestClassifier
import pandas as pd
import numpy as np
from scipy.sparse import hstack, csr_matrix

Предположим, теперь у вас есть функции в кадре данных с именем df, а ваши метки в y_train: 

df = pd.DataFrame({"a":[1,2],"b":[2,3],"c":['we love cars', 'we love cakes']})
y_train = np.array([0,1])

Вы хотите выполнить векторизацию текста для столбца c и добавить функции a и b к векторизации. 

vectorizer = CountVectorizer()
CountVecTest = vectorizer.fit_transform(df.c)

CountVecTest.toarray()

Это вернет: 

array([[0, 1, 1, 1],
       [1, 0, 1, 1]], dtype=int64)

Но CountVecTest теперь скудная разреженная матрица. Так что вам нужно добавить свои функции в эту матрицу. Как это: 

X_train = hstack([CountVecTest, csr_matrix(df[['a','b']])])

X_train.toarray()

Это вернется, как и ожидалось: 

array([[0, 1, 1, 1, 1, 2],
       [1, 0, 1, 1, 2, 3]], dtype=int64)

Тогда вы можете тренировать свой случайный лес: 

rf = RandomForestClassifier(criterion='entropy', min_samples_leaf=10, min_samples_split=20)
rf.fit(X_train, y_train)

NB. В предоставленном вами фрагменте кода вы передали информацию о метке (столбец «бот») функциям обучения, которые вы явно не должны делать.

...