Я работаю над многоклассовой классификацией текста, которая должна предоставить 5 лучших совпадений, а не только лучшее совпадение.Следовательно, «успех» определяется как правильная классификация, по крайней мере, одного из 5 лучших совпадений.Алгоритм должен достичь как минимум 95% успеха, учитывая, как мы определили успех выше.Конечно, мы будем обучать нашу модель на подмножестве данных и тестировать на оставшемся подмножестве, чтобы подтвердить успех нашей модели.
Я использую функцию pytit scikit-learn'sgnastt_proba (), чтобы выбрать 5 лучших совпадений и рассчитать показатели успеха, приведенные ниже, используя собственный скрипт, который, кажется, отлично работает на моих примерах данных, однако я заметилчто 5 лучших показателей успеха были меньше, чем из 1 лучших результатов с использованием .predict () для моих собственных пользовательских данных, что математически невозможно.Это связано с тем, что верхний результат автоматически включается в верхние 5 результатов, поэтому показатель успеха должен, по меньшей мере, быть равен первому 1 коэффициенту успеха, если не больше.Чтобы устранить неполадки, я сравниваю первый показатель успешности с помощью метода предиката () и предиката_процесса (), чтобы убедиться, что они равны, и убедился, что показатель успеха в верхних 5 выше, чем в верхнем 1.
Я настроил приведенный ниже сценарий, чтобы вы познакомились с моей логикой и выяснили, где-то делается неверное предположение или может возникнуть проблема с моими данными, которую необходимо исправить.Я тестирую множество классификаторов и функций, но просто для простоты вы увидите, что я просто использую векторы отсчетов в качестве признаков и логистическую регрессию в качестве классификатора, поскольку я не верю (насколько мне известно, что это является частью проблемы).Я был бы очень признателен, если бы кто-нибудь мог объяснить, почему я нахожу это несоответствие.
Код:
# Set up environment
from sklearn.datasets import fetch_20newsgroups
from sklearn.linear_model import LogisticRegression
from sklearn import metrics, model_selection
from sklearn.feature_extraction.text import CountVectorizer
import pandas as pd
import numpy as np
#Read in data and do just a bit of preprocessing
# User's Location of git repository
Git_Location = 'C:/Documents'
# Set Data Location:
data = Git_Location + 'Data.csv'
# load the data
df = pd.read_csv(data,low_memory=False,thousands=',', encoding='latin-1')
df = df[['CODE','Description']] #select only these columns
df = df.rename(index=float, columns={"CODE": "label", "Description": "text"})
#Convert label to float so you don't need to encode for processing later on
df['label']=df['label'].str.replace('-', '',regex=True, case = False).str.strip()
df['label'].astype('float64', raise_on_error = True)
# drop any labels with count LT 500 to build a strong model and make our testing run faster -- we will get more data later
df = df.groupby('label').filter(lambda x : len(x)>500)
#split data into testing and training
train_x, valid_x, train_y, valid_y = model_selection.train_test_split(df.text, df.label,test_size=0.33, random_state=6,stratify=df.label)
# Other examples online use the following data types... we will do the same to remain consistent
train_y_npar = pd.Series(train_y).values
train_x_list = pd.Series.tolist(train_x)
valid_x_list = pd.Series.tolist(valid_x)
# cast validation datasets to dataframes to allow to merging later on
valid_x_df = pd.DataFrame(valid_x)
valid_y_df = pd.DataFrame(valid_y)
# Extracting features from data
count_vect = CountVectorizer()
X_train_counts = count_vect.fit_transform(train_x_list)
X_test_counts = count_vect.transform(valid_x_list)
# Define the model training and validation function
def TV_model(classifier, feature_vector_train, label, feature_vector_valid, valid_y, valid_x, is_neural_net=False):
# fit the training dataset on the classifier
classifier.fit(feature_vector_train, label)
# predict the top n labels on validation dataset
n = 5
#classifier.probability = True
probas = classifier.predict_proba(feature_vector_valid)
predictions = classifier.predict(feature_vector_valid)
#Identify the indexes of the top predictions
top_n_predictions = np.argsort(probas, axis = 1)[:,-n:]
#then find the associated SOC code for each prediction
top_class = classifier.classes_[top_n_predictions]
#cast to a new dataframe
top_class_df = pd.DataFrame(data=top_class)
#merge it up with the validation labels and descriptions
results = pd.merge(valid_y, valid_x, left_index=True, right_index=True)
results = pd.merge(results, top_class_df, left_index=True, right_index=True)
top5_conditions = [
(results.iloc[:,0] == results[0]),
(results.iloc[:,0] == results[1]),
(results.iloc[:,0] == results[2]),
(results.iloc[:,0] == results[3]),
(results.iloc[:,0] == results[4])]
top5_choices = [1, 1, 1, 1, 1]
#Top 1 Result
#top1_conditions = [(results['0_x'] == results[4])]
top1_conditions = [(results.iloc[:,0] == results[4])]
top1_choices = [1]
# Create the success columns
results['Top 5 Successes'] = np.select(top5_conditions, top5_choices, default=0)
results['Top 1 Successes'] = np.select(top1_conditions, top1_choices, default=0)
print("Are Top 5 Results greater than Top 1 Result?: ", (sum(results['Top 5 Successes'])/results.shape[0])>(metrics.accuracy_score(valid_y, predictions)))
print("Are Top 1 Results equal from predict() and predict_proba()?: ", (sum(results['Top 1 Successes'])/results.shape[0])==(metrics.accuracy_score(valid_y, predictions)))
print(" ")
print("Details: ")
print("Top 5 Accuracy Rate (predict_proba)= ", sum(results['Top 5 Successes'])/results.shape[0])
print("Top 1 Accuracy Rate (predict_proba)= ", sum(results['Top 1 Successes'])/results.shape[0])
print("Top 1 Accuracy Rate = (predict)=", metrics.accuracy_score(valid_y, predictions))
Пример вывода с использованием встроенного набора данных scikit learn в twentynewsgroups (это моя цель): Примечание: я выполнил этот точный код в другом наборе данныхи смог получить эти результаты, которые говорят мне, что функция и ее зависимости работают, поэтому проблема должна быть как-то в данных.
Are Top 5 Results greater than Top 1 Result?: True
Are Top 1 Results equal from predict() and predict_proba()?: True
Подробности:
Top 5 Accuracy Rate (predict_proba)= 0.9583112055231015
Top 1 Accuracy Rate (predict_proba)= 0.8069569835369091
Top 1 Accuracy Rate = (predict)= 0.8069569835369091
Теперь запустите мои данные:
TV_model(LogisticRegression(), X_train_counts, train_y_npar, X_test_counts, valid_y_df, valid_x_df)
Вывод:
Are Top 5 Results greater than Top 1 Result?: False
Are Top 1 Results equal from predict() and predict_proba()?: False
Подробно:
- Показатель точности 5-го уровня (предсказания) = 0,6581632653061225
- Показатель точности 1-го уровня (предсказания_proba) = 0.2010204081632653
- Рейтинг точности 1 = (прогноз) = 0.8091187478734263