Классификация строки символов (изменена) - PullRequest
Новая
       44

Классификация строки символов (изменена)

0 голосов
/ 31 мая 2018

Я работаю над проблемой, когда у меня есть 32514 строк перемешанных символов «wewlsfnskfddsl ... eredsda», и каждая строка имеет длину 406 символов.Нам нужно предсказать, к какому классу они принадлежат?Здесь класс 1-12 названий книг.

После поиска в интернете я попробовал следующее.Тем не менее, я получаю ошибку.Большое спасибо. 

#code
y = ytrain.values
#ytrain = y.ravel()
y = to_categorical(y, num_classes=12)

 [[0. 0. 0. ... 0. 0. 0.]
 [0. 0. 0. ... 0. 0. 0.]
 [0. 0. 0. ... 0. 0. 0.]
 ...
 [0. 0. 0. ... 0. 1. 0.]
 [0. 0. 0. ... 0. 0. 0.]
 [0. 0. 0. ... 0. 0. 0.]]

X = X.reshape((1,32514,1))


# define model
model = Sequential()
model.add(LSTM(75, input_shape=(32514,1)))
model.add(Dense(12, activation='softmax'))
print(model.summary())
# compile model
model.compile(loss='sparse_categorical_crossentropy', optimizer='adam', metrics=['accuracy'])

# fit model
model.fit(X, y, epochs=100, verbose=2)

# save the model to file
model.save('model.h5')
# save the mapping
dump(mapping, open('mapping.pkl', 'wb'))

#(batch_size, input_dim)
#(batch_size, timesteps, input_dim)

#### Я получаю следующую ошибку: 

_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
lstm_19 (LSTM)               (None, 75)                23100     
_________________________________________________________________
dense_13 (Dense)             (None, 12)                912       
=================================================================
Total params: 24,012
Trainable params: 24,012
Non-trainable params: 0
_________________________________________________________________
None
---------------------------------------------------------------------------
ValueError                                Traceback (most recent call last)
<ipython-input-35-503a6273e5d0> in <module>()
      7 
      8 # fit model
----> 9 model.fit(X, y, epochs=100, verbose=2)
     10 
     11 # save the model to file

/usr/local/lib/python3.6/dist-packages/keras/models.py in fit(self, x, y, batch_size, epochs, verbose, callbacks, validation_split, validation_data, shuffle, class_weight, sample_weight, initial_epoch, steps_per_epoch, validation_steps, **kwargs)
   1000                               initial_epoch=initial_epoch,
   1001                               steps_per_epoch=steps_per_epoch,
-> 1002                               validation_steps=validation_steps)
   1003 
   1004     def evaluate(self, x=None, y=None,

/usr/local/lib/python3.6/dist-packages/keras/engine/training.py in fit(self, x, y, batch_size, epochs, verbose, callbacks, validation_split, validation_data, shuffle, class_weight, sample_weight, initial_epoch, steps_per_epoch, validation_steps, **kwargs)
   1628             sample_weight=sample_weight,
   1629             class_weight=class_weight,
-> 1630             batch_size=batch_size)
   1631         # Prepare validation data.
   1632         do_validation = False

/usr/local/lib/python3.6/dist-packages/keras/engine/training.py in _standardize_user_data(self, x, y, sample_weight, class_weight, check_array_lengths, batch_size)
   1478                                     output_shapes,
   1479                                     check_batch_axis=False,
-> 1480                                     exception_prefix='target')
   1481         sample_weights = _standardize_sample_weights(sample_weight,
   1482                                                      self._feed_output_names)

/usr/local/lib/python3.6/dist-packages/keras/engine/training.py in _standardize_input_data(data, names, shapes, check_batch_axis, exception_prefix)
    121                             ': expected ' + names[i] + ' to have shape ' +
    122                             str(shape) + ' but got array with shape ' +
--> 123                             str(data_shape))
    124     return data
    125 

ValueError: Error when checking target: expected dense_13 to have shape (1,) but got array with shape (12,)

Ответы [ 2 ]

0 голосов
/ 31 мая 2018

Мне кажется, что вы можете решить эту проблему с помощью lstm.Единицы (или блоки) долговременной памяти (LSTM) являются строительными единицами для слоев рекуррентной нейронной сети (RNN)

. Эти LSTM помогут нам захватить последовательную информацию и обычно используются в тех случаях, когда мы хотимчтобы узнать последовательные шаблоны в данных

Вы можете декодировать эту проблему, используя уровень символов LSTM.

В этом вам необходимо передать каждый символ текста в ячейке LSTM и, наконец,шаг по времени у вас будет класс, который является истинной меткой

Вы можете использовать функцию кросс-энтропийной потери.

https://machinelearningmastery.com/develop-character-based-neural-language-model-keras/

Это даст вам полное представление

0 голосов
/ 31 мая 2018

Модели машинного обучения и глубокого обучения для классификации текста сложны для построения.Вот руководство, которое может помочь вам начать работу.

https://papers.nips.cc/paper/5782-character-level-convolutional-networks-for-text-classification.pdf

Надеюсь, это поможет!: -)

...