Обнаружение эмоций на тексте - PullRequest
Новая
       13

Обнаружение эмоций на тексте

0 голосов
/ 23 октября 2018

Я новичок в ML и экспериментировал с обнаружением эмоций в тексте.Итак, у меня есть набор данных ISEAR, который содержит твиты с их эмоциями.Так что моя текущая точность составляет 63%, и я хочу увеличить ее как минимум до 70% или даже больше.

Вот код: 

inputs = Input(shape=(MAX_LENGTH, ))

embedding_layer = Embedding(vocab_size,
                            64,
                            input_length=MAX_LENGTH)(inputs)

# x = Flatten()(embedding_layer)
x = LSTM(32, input_shape=(32, 32))(embedding_layer)
x = Dense(10, activation='relu')(x)

predictions = Dense(num_class, activation='softmax')(x)
model = Model(inputs=[inputs], outputs=predictions)
model.compile(optimizer='adam',
              loss='categorical_crossentropy',
              metrics=['acc'])

model.summary()
filepath="weights-simple.hdf5"
checkpointer = ModelCheckpoint(filepath, monitor='val_acc', verbose=1, save_best_only=True, mode='max')
history = model.fit([X_train], batch_size=64, y=to_categorical(y_train), verbose=1, validation_split=0.1, 
          shuffle=True, epochs=10, callbacks=[checkpointer])

1 Ответ

0 голосов
/ 23 октября 2018

Это довольно общий вопрос, для оптимизации производительности нейронной сети может потребоваться настройка многих факторов.Например:

  1. Выбранный оптимизатор: в задачах NLP rmsprop также является популярным оптимизатором
  2. Настройка скорости обучения
  3. Регуляризация - например, выпадение, recurrent_dropout, пакетная норма,Это может помочь модели лучше обобщить
  4. Больше единиц в LSTM
  5. Больше измерений во вложении

Вы можете попробовать поиск по сетке, например, используя различные оптимизаторы иоценивать на проверочном наборе.Данные также могут нуждаться в настройке, например:

Нормализация текста - лучшее представление твитов - удаление ненужных токенов (@, #)

Перемешивание данных перед тем, как fit - keras validation_split создает набор проверки с использованиемпоследние записи данных

Нет простого ответа на ваш вопрос.

...