Что означают отрицательные векторы на word2ve c?

Question

Я изучаю обзоры путешествий и использовал word2ve c для анализа отзывов. Однако, когда я показал свой результат своему консультанту, он сказал, что у меня много слов с отрицательными векторными значениями и что логичными считаются только слова с положительными значениями.

Что могут означать эти отрицательные значения? Есть ли способ гарантировать, что все векторные значения, которые я получу в своем анализе, будут положительными?

Answer 1

В то время как некоторые другие алгоритмы моделирования слов фактически моделируют слова в пространствах, где измерения равны 0 или положительны, а отдельные положительные измерения могут быть явно значимыми для людей, это не относится к исходному, каноническому 'word2ve c 'алгоритм.

Положительность / отрицательность любого word2ve c word-vector - в определенном измерении или в net величине - не имеет сильного значения. Значимые слова будут распространяться во всех направлениях от исходной точки. Направления или окрестности в этом пространстве, которые слабо коррелируют с узнаваемыми категориями, могут появляться где угодно и наклоняться относительно любой из размерных осей.

(Вот связанный алгоритм, который использует неотрицательные ограничения - https://www.cs.cmu.edu/~bmurphy/NNSE/. Но большинство ссылок на 'word2ve c' означает подход classi c, при котором размеры обычно варьируются от всех вещественных чисел.)