Автоэнкодер Keras с предтренированными вложениями, возвращающий неверное количество измерений - PullRequest
Новая
       9

Автоэнкодер Keras с предтренированными вложениями, возвращающий неверное количество измерений

0 голосов
/ 07 ноября 2018

Я пытался реплицировать автоэнкодер предложения свободно, основываясь на примере из книги Deep Learning with Keras .

Я перекодировал пример, чтобы использовать слой внедрения вместо генератора предложений и использовать fit против fit_generator.

Мой код выглядит следующим образом: 

df_train_text = df['string']

max_length = 80
embedding_dim = 300
latent_dim = 512
batch_size = 64
num_epochs = 10

# prepare tokenizer
t = Tokenizer(filters='')
t.fit_on_texts(df_train_text)
word_index = t.word_index
vocab_size = len(t.word_index) + 1

# integer encode the documents
encoded_train_text = t.texts_to_matrix(df_train_text)

padded_train_text = pad_sequences(encoded_train_text, maxlen=max_length, padding='post')

padding_train_text = np.asarray(padded_train_text, dtype='int32')

embeddings_index = {}
f = open('/Users/embedding_file.txt')
for line in f:
    values = line.split()
    word = values[0]
    coefs = np.asarray(values[1:], dtype='float32')
    embeddings_index[word] = coefs
f.close()

print('Found %s word vectors.' % len(embeddings_index))
#Found 51328 word vectors.

embedding_matrix = np.zeros((vocab_size, embedding_dim))
for word, i in word_index.items():
    embedding_vector = embeddings_index.get(word)
    if embedding_vector is not None:
        # words not found in embedding index will be all-zeros.
        embedding_matrix[i] = embedding_vector


embedding_layer = Embedding(vocab_size,
                            embedding_dim,
                            weights=[embedding_matrix],
                            input_length=max_length,
                            trainable=False)
inputs = Input(shape=(max_length,), name="input")
embedding_layer = embedding_layer(inputs)
encoder = Bidirectional(LSTM(latent_dim), name="encoder_lstm", merge_mode="sum")(embedding_layer)
decoder = RepeatVector(max_length)(encoder)
decoder = Bidirectional(LSTM(embedding_dim, name='decoder_lstm', return_sequences=True), merge_mode="sum")(decoder)
autoencoder = Model(inputs, decoder)
autoencoder.compile(optimizer="adam", loss="mse")


autoencoder.fit(padded_train_text, padded_train_text,
                epochs=num_epochs, 
                batch_size=batch_size,
                callbacks=[checkpoint])

Я проверил, что мои формы слоя такие же, как в примере, однако, когда я пытаюсь подогнать свой автоэнкодер, я получаю следующую ошибку: 

ValueError: Error when checking target: expected bidirectional_1 to have 3 dimensions, but got array with shape (36320, 80)

Несколько других вещей, которые я пробовал, включали переключение texts_to_matrix на texts_to_sequence и обертывание / не обертывание моих мягких строк

Я также натолкнулся на этот пост , который, кажется, указывает на то, что я поступаю неправильно. Можно ли установить авто-кодер со слоем для встраивания, как я его кодировал? Если нет, может кто-нибудь помочь объяснить фундаментальную разницу между тем, что происходит с приведенным примером и моей версией?

РЕДАКТИРОВАТЬ: я удалил аргумент return_sequences=True в последнем слое и получил следующую ошибку: ValueError: Error when checking target: expected bidirectional_1 to have shape (300,) but got array with shape (80,)

После обновления мои слои имеют следующие формы: 

_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
input (InputLayer)           (None, 80)                0         
_________________________________________________________________
embedding_8 (Embedding)      (None, 80, 300)           2440200   
_________________________________________________________________
encoder_lstm (Bidirectional) (None, 512)               3330048   
_________________________________________________________________
repeat_vector_8 (RepeatVecto (None, 80, 512)           0         
_________________________________________________________________
bidirectional_8 (Bidirection (None, 300)               1951200   
=================================================================
Total params: 7,721,448
Trainable params: 5,281,248
Non-trainable params: 2,440,200
_________________________________________________________________

Я пропустил шаг между слоем RepeatVector и последним слоем модели, чтобы я мог вернуть форму (Нет, 80, 300), а не форму (Нет, 300), которую он генерирует в настоящее время?

1 Ответ

0 голосов
/ 07 ноября 2018
Слой

Embedding принимает в качестве входных данных последовательность целых чисел (то есть индексов слов) с формой (num_words,) и выдает соответствующие вложения как выходные данные с формой (num_words, embd_dim). Поэтому после подгонки экземпляра Tokenizer к заданным текстам вам нужно использовать его метод texts_to_sequences(), чтобы преобразовать каждый текст в последовательность целых чисел: 

encoded_train_text = t.texts_to_sequences(df_train_text)

Кроме того, поскольку после заполнения encoded_train_text он будет иметь форму (num_samples, max_length), выходная форма сети также должна иметь такую ​​же форму (т. Е. Поскольку мы создаем автоэнкодер), и поэтому вам необходимо удалить return_sequences=True аргумент последнего слоя. В противном случае это даст нам 3D-тензор как вывод, который не имеет смысла.

В качестве примечания, следующая строка является избыточной, поскольку padded_train_text уже является пустым массивом (и, кстати, вы вообще не использовали padding_train_text): 

padding_train_text = np.asarray(padded_train_text, dtype='int32')
...