Оценка недоумения на модели Keras LSTM для языка - PullRequest
0 голосов
/ 09 октября 2018

Я создал языковую модель, используя эту сеть LST:

w2v_model = gensim.models.Word2Vec(sentences, size=150, window=4, min_count=2, workers=10)
pretrained_weights = w2v_model.wv.syn0
vocab_size, emdedding_size = pretrained_weights.shape
keras_lstm_model = Sequential()
keras_lstm_model.add(Embedding(input_dim = vocab_size, output_dim = emdedding_size, weights = [pretrained_weights]))
keras_lstm_model.add(LSTM(units = emdedding_size))
keras_lstm_model.add(Dense(units = vocab_size))
keras_lstm_model.add(Activation('sigmoid'))
self.keras_lstm_model.compile(optimizer = 'adam', loss = 'sparse_categorical_crossentropy', metrics = ['mae','acc'])

Моя цель будет состоять в том, чтобы оценить вероятность конкретного слова по предложенному предложению.Теперь я хочу оценить недоумение.Как я могу сделать это для этой модели?Или мне нужно как-то изменить его, чтобы это было возможно?

...