Pytorch nn размер вложений размер?

Question

Каков правильный размер размера для nn вложений в Pytorch?Я делаю групповое обучение.

Я просто немного запутался с тем, какими должны быть размеры "self.embeddings" в приведенном ниже коде, когда я получаю "shape"?

self.embeddings = nn.Embedding(vocab_size, embedding_dim)

Answer 1

Форма self.embedding будет [sentence_length, batch_size, embedding_dim]

, где sentence_length - длина входов в каждом пакете.