Я взломал корректор заклинаний Норвига, чтобы сделать это. Мне пришлось немного обмануть и добавить слово «проверка» в файл данных Norvig, потому что он никогда не появляется. Без этого обмана проблема действительно сложная.
expertsexchange expert exchange
spel checker spell checker
spellchecker spell checker
spelchecker she checker # can't win them all
baseball base all # baseball isn't in the dictionary either :(
hewent he went
В основном вам нужно изменить код так, чтобы:
- Вы добавляете пробел к алфавиту, чтобы автоматически исследовать разрывы слов.
- Вы сначала проверяете, что все слова, составляющие фразу, находятся в словаре, чтобы считать фразу действительной, а не просто словарное членство напрямую (диктат не содержит фраз).
- вам нужен способ сравнить фразу с простыми словами.
Последнее является самым хитрым, и я использую предположение о независимости мозга для композиции фраз о том, что вероятность двух смежных слов является произведением их индивидуальных вероятностей (здесь это делается с помощью суммы в пространстве лог-проб) с небольшим штрафом. Я уверен, что на практике вы захотите сохранить некоторые биграмные характеристики, чтобы это делалось хорошо.
import re, collections, math
def words(text): return re.findall('[a-z]+', text.lower())
def train(features):
counts = collections.defaultdict(lambda: 1.0)
for f in features:
counts[f] += 1.0
tot = float(sum(counts.values()))
model = collections.defaultdict(lambda: math.log(.1 / tot))
for f in counts:
model[f] = math.log(counts[f] / tot)
return model
NWORDS = train(words(file('big.txt').read()))
alphabet = 'abcdefghijklmnopqrstuvwxyz '
def valid(w):
return all(s in NWORDS for s in w.split())
def score(w):
return sum(NWORDS[s] for s in w.split()) - w.count(' ')
def edits1(word):
splits = [(word[:i], word[i:]) for i in range(len(word) + 1)]
deletes = [a + b[1:] for a, b in splits if b]
transposes = [a + b[1] + b[0] + b[2:] for a, b in splits if len(b)>1]
replaces = [a + c + b[1:] for a, b in splits for c in alphabet if b]
inserts = [a + c + b for a, b in splits for c in alphabet]
return set(deletes + transposes + replaces + inserts)
def known_edits2(word):
return set(e2 for e1 in edits1(word) for e2 in edits1(e1) if valid(e2))
def known(words): return set(w for w in words if valid(w))
def correct(word):
candidates = known([word]) or known(edits1(word)) or known_edits2(word) or [word]
return max(candidates, key=score)
def t(w):
print w, correct(w)
t('expertsexchange')
t('spel checker')
t('spellchecker')
t('spelchecker')
t('baseball')
t('hewent')