Я хочу сделать взвешивание слова методом TF-IDF-CF. Я получаю такой код от github, но я все еще не понимаю, как реализовать его в моем фрейме данных. набор данных, который у меня есть, содержит коллекцию текста в общей сложности 1000 строк. Вот код:
import math
"""
"""
class FrequencyCalc:
def tfidfcf(self, tfidfZip, classWordLists):
"""
"""
tfidfcf = []
N = len(classWordLists)
for (w, f) in tfidfZip:
ncij = 0
for words in classWordLists:
if w in words:
ncij += 1
v = f * (ncij / N)
tfidfcf.append(v)
return tfidfcf
def tfidf(self, tf, idf):
"""
"""
tfidf = []
for i in range(len(tf)):
v = tf[i] * idf[i]
tfidf.append(v)
return tfidf
def tf(self, wordCount):
"""
"""
tf = []
sum = self.__totalWords(wordCount)
for (w, n) in wordCount:
tf.append(int(n) / sum)
return tf
def idf(self, docWords, wordLists):
"""
"""
idf = []
N = len(wordLists)
for w in docWords:
nt = 0
for words in wordLists:
if w in words:
nt += 1
r = math.log(N / nt, 10)
idf.append(r)
return idf
def __totalWords(self, wordCount):
"""
"""
sum = 0
for (w, n) in wordCount:
sum += int(n)
return sum
приведите пример использования этого класса. спасибо