Нграммы из колонки pandas - PullRequest
Новая
       66

Нграммы из колонки pandas

1 голос
/ 06 марта 2020

У меня есть pandas фрейм данных со следующими столбцами:

Столбец 1 

['if', 'you', 'think', 'she', "'s", 'cute', 'now', ',', 'you', 'should', 'have', 'see', 'her', 'a', 'couple', 'of', 'year', 'ago', '.']
['uh', ',', 'yeah', '.', 'just', 'a', 'fax', '.']

Столбец 2 

if you think she 's cute now , you should have see her a couple of year ago .
uh , yeah . just a fax .

et c.

Моя цель - подсчитать биграммы, триграммы, квадриграммы кадра данных (и, в частности, столбец 2, который уже лемматизирован).

Я пробовал следующее: 

import nltk
from nltk import bigrams
from nltk import trigrams

trig = trigrams(df ["Column2"])
print (trig)

Тем не менее, у меня есть следующая ошибка 

<generator object trigrams at 0x0000013C757F1C48>

Моя конечная цель - иметь возможность печатать X биограмм, триграмм и т. Д. c.

1 Ответ

1 голос
/ 06 марта 2020

Используйте понимание списка с помощью split и сначала выровняйте для всех триграмм: 

df = pd.DataFrame({'Column2':["if you think she cute now you if uh yeah just",
                              'you think she uh yeah just a fax']}) 

from nltk import trigrams

L = [x for x in df['Column2'] for x in trigrams(x.split())]
print (L)
[('if', 'you', 'think'), ('you', 'think', 'she'), ('think', 'she', 'cute'), 
 ('she', 'cute', 'now'), ('cute', 'now', 'you'), ('now', 'you', 'if'), 
 ('you', 'if', 'uh'), ('if', 'uh', 'yeah'), ('uh', 'yeah', 'just'), 
 ('you', 'think', 'she'), ('think', 'she', 'uh'), ('she', 'uh', 'yeah'),
 ('uh', 'yeah', 'just'), ('yeah', 'just', 'a'), ('just', 'a', 'fax')]

Затем подсчитайте кортежи по collections.Counter: 

from collections import Counter
c = Counter(L)
print (c)
Counter({('you', 'think', 'she'): 2, ('uh', 'yeah', 'just'): 2, ('if', 'you', 'think'): 1,
         ('think', 'she', 'cute'): 1, ('she', 'cute', 'now'): 1, ('cute', 'now', 'you'): 1,
         ('now', 'you', 'if'): 1, ('you', 'if', 'uh'): 1, ('if', 'uh', 'yeah'): 1, 
         ('think', 'she', 'uh'): 1, ('she', 'uh', 'yeah'): 1, 
         ('yeah', 'just', 'a'): 1, ('just', 'a', 'fax'): 1})

И для верхних значений используйте collections.Counter.most_common: 

top = c.most_common(5)
print (top)
[(('you', 'think', 'she'), 2), (('uh', 'yeah', 'just'), 2), 
 (('if', 'you', 'think'), 1), (('think', 'she', 'cute'), 1),
 (('she', 'cute', 'now'), 1)]
...