Я использую Tensorflow для задач НЛП и использую предварительно обученные вложения слов в качестве входных данных для моей нейронной сети. Я читал, что вложения могут быть обновлены также через обучение. Я использую LSTM в качестве модели, но я хочу обновить вложения также как параметры сети. Я не знаю, как сделать встраивания пригодными для обучения в моей сети?
Например, если я использую пример кода из учебника Tensorflow, как показано ниже
word_embeddings = tf.get_variable(“word_embeddings”,
[vocabulary_size, embedding_size])
embedded_word_ids = tf.nn.embedding_lookup(word_embeddings, word_ids)
и используйте внедренные_данные_данных в качестве входных данных для модели. Будут ли обновлены вложения?