Как хранятся Vocab и Integer (одно горячее) представление и что означает кортеж ('string', int) в torchtext.vocab ()? - PullRequest
Новая
       120

Как хранятся Vocab и Integer (одно горячее) представление и что означает кортеж ('string', int) в torchtext.vocab ()?

0 голосов
/ 27 мая 2020

Я пытаюсь обучить RNN бинарной классификации. Мой словарь состоит из 1000000 слов, и вы можете найти следующие результаты ...

text_field = torchtext.data.Field(tokenize=word_tokenize)

print(text_field.vocab.freqs.most_common(15))
>>
[('.', 516822), (',', 490533), ('the', 464796), ('to', 298670), ("''", 264416), ('of', 226307), ('I', 224927), ('and', 215722), ('a', 211773), ('is', 180965), ('you', 180359), ('``', 165889), ('that', 156425), ('in', 138038), (':', 132294)]

print(text_field.vocab.itos[:15])
>>
['<unk>', '<pad>', '.', ',', 'the', 'to', "''", 'of', 'I', 'and', 'a', 'is', 'you', '``', 'that']

text_field.vocab.stoi
>>
{'<unk>': 0,'<pad>': 1,'.': 2,',': 3,'the': 4,'to': 5,"''": 6,'of': 7,'I': 8,'and': 9,'a': 10, 'is': 11,'you': 12,'``': 13,'that': 14,'in': 15,....................

В документации сказано: 

freqs – A collections.Counter object holding the frequencies of tokens in the data used to build the Vocab.
stoi – A collections.defaultdict instance mapping token strings to numerical identifiers.
itos – A list of token strings indexed by their numerical identifiers.

Что для меня непонятно.

Может кто-нибудь, пожалуйста, объясните, что это, давая интуицию каждого из этих ?

Например, если the представлен как 4, значит ли это, что если предложение содержит слово the,

  1. Будет ли оно равно 1 в позиции 4? ИЛИ
  2. Будет ли 1 в позиции 464796 ИЛИ
  3. Будет ли 4 в позиции 464796 ??

Что произойдет, если несколько the есть там ??

1 Ответ

1 голос
/ 27 мая 2020

Если «the» представлено числом 4, то это означает, что

  • itos[4] - это «the»
  • stoi["the"] равно 4
  • там представляет собой кортеж ('the', <count>) где-то в freqs, где count - это количество раз, которое 'the' появляется во входном тексте. Этот счетчик не имеет ничего общего с его числовым идентификатором 4.
...