Заменить два последовательных элемента в списке одним элементом - PullRequest
Новая
       15

Заменить два последовательных элемента в списке одним элементом

0 голосов
/ 02 апреля 2019

Для анализа текста мы преобразуем его в список P1 слов.Затем мы применяем методы Биграма и получаем список X пар слов (ai, bi), таких, что ai и bi встречаются один за другим в P1 довольно много раз.Как получить в Python 3 список P2 из P1, чтобы каждые два элемента ai и bi, если они шли один за другим в P1 и (ai, bi) из X, заменялись одним элементом ai_bi?Моя конечная цель - подготовить текст в виде списка слов для анализа в Word2Vec.У меня есть свой код, и он работает, но я думаю, что он будет медленным на больших текстах. 

import nltk
from nltk.collocations import *
import re
import gensim
bigram_measures = nltk.collocations.BigramAssocMeasures()
sentences=["Total internal reflection ! is the;phenomenon",
"Abrasive flow machining :is an ? ( interior surface finishing process)",
"Technical Data[of Electrical Discharge wire cutting and] Cutting Machine",
"The greenhouse effect. is the process by which, radiation from a {planet atmosphere warms }the planet surface",
"Absolute zero!is the lowest limit ;of the thermodynamic temperature scale:",
"The term greenhouse effect ?is mentioned (a lot)",
"[An interesting] effect known as total internal reflection.",
"effect on impact energies ,Electrical discharge wire cutting of ADI",
"{Absolute zero represents} the coldest possible temperature",
"total internal reflection at an air water interface",
"What is Electrical Discharge wire cutting Machining and how does it work",
"Colder than Absolute Zero",
"A Mathematical Model for  Electrical Discharge Wire Cutting Machine Parameters"]
P1=[]
for f in sentences:
    f1=gensim.utils.simple_preprocess (f.lower())
    P1.extend(f1)
print("First 100 items from P1")
print(P1[:100])
#  bigram
finder = BigramCollocationFinder.from_words(P1)
# filter only bigrams that appear 2+ times
finder.apply_freq_filter(2)
# return the all bi-grams with the highest PMI
X=finder.nbest(bigram_measures.pmi, 10000)
print()
print("Number of bigrams= ",len(X))
print("10 first bigrams with the highest PMI")
print(X[:10])
# replace ai and bi which are one after another in P1  and (ai,bi) in X  =>>  with ai_bi
P2=[]
n=len(P1)
i=0
while i<n:
    P2.append(P1[i])
    if i<n-2:
        for c in X:
            if c[0]==P1[i] and c[1]==P1[i+1]:
                P2[len(P2)-1]=c[0]+"_"+c[1]
                i+=1    # skip second item of couple from X  
                break
    i+=1
print()
print( "first 50 items from P2 - results")
print(P2[:50])

1 Ответ

2 голосов
/ 02 апреля 2019

Я думаю, вы ищете что-то вроде этого. 

P2 = []
prev = P1[0]
for this in P1[1:]:
    P2.append(prev + "_" + this)
    prev = this

Это реализует простое скользящее окно, в которое предыдущий токен вставляется рядом с текущим токеном.

...