Whoo sh заблокировал оператор во время записи индекса - PullRequest
Новая
       81

Whoo sh заблокировал оператор во время записи индекса

0 голосов
/ 18 февраля 2020

Я пытаюсь создать индекс парламентских протоколов, которые я уже разделил по номеру страницы и преобразовал в txt. Я использую последнюю версию whoo sh для ее создания, но она дает мне ошибку блокировки. Это код: 

import os
from whoosh import index
from whoosh.index import create_in
from whoosh.fields import Schema, TEXT, ID
import sys

def createSearchableData(root):   

    '''
    Schema definition: title(name of file), path(as ID), content(indexed
    but not stored),textdata (stored text content)
    '''
    schema = Schema(title=TEXT(stored=True),path=ID(stored=True),\
              content=TEXT,textdata=TEXT(stored=True))
    if not os.path.exists("indexdir"):
        os.mkdir("indexdir")

    # Creating a index writer to add document as per schema
    ix = index.create_in("indexdir",schema)
    writer = ix.writer()

    filepaths = [os.path.join(root,i) for i in os.listdir(root)]
    for path in filepaths:
        fp = open(path,'rb')
        print(path)
        text = fp.read()
        writer.add_document(title=path.split("\\")[1], path=path,\
          content=text,textdata=text)
        fp.close()
    writer.commit()

root = "C:\\Users\\vitop\\OneDrive\\Desktop\\Final Project\\Test\\Splitted\\Txt"
createSearchableData(root)

Это ошибка, отмеченная: 

LockError                                 Traceback (most recent call last)
<ipython-input-4-e8b4a33a2859> in <module>
     31 
     32 root = "C:\\Users\\vitop\\OneDrive\\Desktop\\Final Project\\Test\\Splitted\\Txt"
---> 33 createSearchableData(root)

<ipython-input-4-e8b4a33a2859> in createSearchableData(root)
     18     # Creating a index writer to add document as per schema
     19     ix = index.create_in("indexdir",schema)
---> 20     writer = ix.writer()
     21 
     22     filepaths = [os.path.join(root,i) for i in os.listdir(root)]

~\Anaconda3\lib\site-packages\whoosh\index.py in writer(self, procs, **kwargs)
    462         else:
    463             from whoosh.writing import SegmentWriter
--> 464             return SegmentWriter(self, **kwargs)
    465 
    466     def lock(self, name):

~\Anaconda3\lib\site-packages\whoosh\writing.py in __init__(self, ix, poolclass, timeout, delay, _lk, limitmb, docbase, codec, compound, **kwargs)
    513             if not try_for(self.writelock.acquire, timeout=timeout,
    514                            delay=delay):
--> 515                 raise LockError
    516 
    517         if codec is None:

LockError:

Код создал папку и настроил индексный файл. Я попытался использовать обходной путь, предложенный с Whoo sh документация , но он не работает.

1 Ответ

0 голосов
/ 18 февраля 2020

Исправлено избавление от двоичной опции и кодировка "utf-8" в текстовый файл. 

for path in filepaths:
    fp = open(path,'r', encoding = "utf-8") 
    print(path)
    text = fp.read()
    writer.add_document(title=path.split("\\")[1], path=path,
    content=text,textdata=text)
    fp.close()
writer.commit()
...