Динамический RNN: вектор дополнения слова - PullRequest
0 голосов
/ 16 октября 2018

Я немного запутался в заполнении, мой первый вопрос:

  • Можно ли дополнить более короткую последовательность значениями, которые не равны 0?Как вы справляетесь с этим тогда в RNN?
  • Обычно для заполнения используется 0, есть ли конкретная причина, почему?Облегчает ли это обучение, потому что это не влияет на вычисления или вам все еще нужно маскировать функцию потерь?

  • Если ваше предложение состоит из векторов, встраиваемых из модели word2vec, будет ли заполнение применяться в качестве нулевого вектора?

Заранее спасибоЛюбой намек!

1 Ответ

0 голосов
/ 10 августа 2019

Ваш вопрос адресован в Как преодолеть разную длину учебного примера при работе с вложениями Word (word2vec) .

Подробнее о чередующемся методе заполнения мин / макс см. Применить вложения слов ко всему документу, чтобы получить вектор элементов .

См. Также: keras.preprocessing.sequence.pad_sequence , который может принимать значение для дополнения какаргумент.

...