Как получить встроенное представление отдельного тестового экземпляра после обучения - PullRequest
0 голосов
/ 06 декабря 2018

Первый уровень моего RNN - это встроенный уровень следующим образом.

visible = Input(shape=(250,)) 
embed=Embedding(vocab_size,50)(visible)     
x2=keras.layers.GRU(224, return_sequences=False)(embed)
predictions=Dense(1, activation='sigmoid')(x2)

Я обучаю эту сеть и прогнозирую некоторый вывод.

Теперь, после тренировки, я проверяю это на своих тестовых данных, которые очень прямолинейны.

Я хочу знать точное вложение моих тестовых данных или ради реализации, встраивание любой из моих тестовых последовательностей после обучения модели.Я хочу использовать эти вложения в каком-то другом приложении.Есть ли способ извлечь эти вложения для моих данных тестовой последовательности после тренировки?

Попробуйте: Допустим, моя модель m, я получаю веса вложения следующим образом.

embeddings = m.layers[1].get_weights()

У меня также есть обратный словарь reverse_char_map следующим образом.

{1: 'c',
 2: 'C',
 3: '(',
 4: ')',
 5: 'O',
 6: '=',
 7: '1',
 8: '2',
 9: 'N',
 10: '3',
 11: 'n',
 12: '[',
 13: ']',
 14: 'S',
 15: '4',
 16: '-',
 17: 'l',
 18: '+',
 19: 'H',
 20: '5',
 21: 'F',
 22: '.',
 23: '#',
 24: 's',
 25: 'o',
 26: '6',
 27: 'P',
 28: 'B',
 29: 'r',
 30: 'a',
 31: '7',
 32: 'e',
 33: 'I',
 34: 'i',
 35: '8',
 36: 'u',
 37: 'K',
 38: '9',
 39: 'R',
 40: '%',
 41: '0',
 42: 'Z',
 43: 'h',
 44: 'L',
 45: 'A',
 46: 't',
 47: 'd',
 48: 'G',
 49: 'M',
 50: 'g',
 51: 'U',
 52: 'b',
 53: 'T',
 54: 'W',
 55: 'p',
 56: 'V'}

Я не знаю, как использовать embeddings с reverse_char_map для получения вложений для одной из тестовых входных последовательностей.

1 Ответ

0 голосов
/ 06 декабря 2018

Вы можете назвать вышеупомянутые слои следующим образом:

visible = Input(shape=(250,), name='visible') 
embed=Embedding(vocab_size,50,name='embed')(visible)     
x2=keras.layers.GRU(224, return_sequences=False, name='x2')(embed)
predictions=Dense(1, activation='sigmoid', name='final')(x2)

Затем модель, составленная из этих слоев (назовем ее m1), может быть использована для инициализации новой модели, к которой вы можете обратитьсяк этим слоям, например, так:

def evaluation_model(training_model):
    visible = training_model.get_layer('visible')
    embed = training_model.get_layer('embed')
    output = embed(visible)
    m = Model(inputs=[visible], outputs=[output]
    m.compile(..)
    return m

em = evaluation_model(m1)

В качестве альтернативы, вы можете просто добавить последние несколько слоев вашей исходной модели или также вывести ее вложения, но без потерь.

...