Общая аббревиатура имени переменной для Pytorch или Tensorflow? - PullRequest
0 голосов
/ 23 апреля 2019

Я видел имя var, например ninp (num_input), nhid (num_hidden), emsize (размер вложения) в примере с gitub repo на pytorch.Каковы некоторые из других общих сокращений и их значение / контекст?

1 Ответ

1 голос
/ 23 апреля 2019

Это общие термины, используемые в моделях последовательностей (например, RNN, LSTM, GRU и т. Д.). Вот описание того, что означают эти термины:

ninp (num_input): размерность векторов в матрице вложения
emsize (embedding size): размерность векторов в матрице вложения
nhid (num_hidden): сколько «скрытых» юнитов мы хотим иметь в каждом скрытом слое

Графическое описание может помочь лучше понять его. Ниже приводится хорошая иллюстрация. (Авторы: Киллиан Левахер)

RNN-terminology

На приведенном выше рисунке emsize - размер вложения (т.е. размерность вектора вложения). Это зависит от архитектуры модели, но большинство людей будет использовать что-то вроде 300.


RNN architecture

На рисунке выше у нас есть пять нейронов в каждом "скрытом" слое. Следовательно, значение nhid равно 5. Выходной слой будет иметь размерность, равную размеру словаря, так что распределение вероятности будет сгенерировано по всем токенам в словаре.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...