Встраивания с использованием ** layer [0] .get_weights () [0] **

Question

Я использую пример для изучения встраиваемых сетей, где размер словарного запаса = 200, а обучающая выборка содержит около 20 различных слов. размер вокаба равен 200, что означает, что количество слов равно 200. Но фактически я работаю только с 20 словами (словами из моей обучающей выборки): скажем, от слова [0] до слова [19]. Итак, после вложения вектор [0] соответствует слову [0] и так далее. но vector [20] .. vector [30] ... чему они соответствуют? У меня нет слова [20] или слова [30].

Заранее спасибо.

Answer 1

чему они соответствуют?

Ничего. Пока вы не увеличите свой словарный запас, веса будут оставаться на том уровне, к которому они были инициализированы, что почти наверняка является случайным. Если вы попытаетесь трактовать их как слова, они не будут иметь определения на английском языке.

Они могут иметь какое-то значение для них, основываясь на том факте, что обучающие вложения создают пространство, в котором значения имеют значение, но эти случайные вложения не могутбыть надежно переведены обратно на английский.