Как добавить пользовательские знаки в функцию пунктуации spaCy?

Question

Есть ли возможность добавить пользовательские знаки препинания, которые не включены в правила пунктуации по умолчанию?(https://github.com/explosion/spaCy/blob/develop/spacy/lang/de/punctuation.py)

Я использую класс Matcher spaCy (https://spacy.io/usage/rule-based-matching) и атрибут "IS_PUNCT" для удаления знаков препинания из моего текста.

from spacy.matcher import Matcher

# instantiate Matcher
matcher = Matcher(nlp.vocab)

# define pattern
pattern = [{"IS_PUNCT": False}]

# add pattern to matcher
matcher.add("Cleaning", None, pattern)

Я хотел бы настроитьправила пунктуации, позволяющие удалять «|» из моих текстов с помощью Matcher.

Answer 1

Вы можете сделать это, заменив функцию lex_attr_getters[IS_PUNCT] на пользовательскую, которая содержит список символов, описывающих дополнительные символы.

import spacy
from spacy.symbols import IS_PUNCT
from spacy.lang.en import EnglishDefaults

def is_punct_custom(text):
    extra_punct = ["|"]
    if text in extra_punct:
        return True
    return is_punct_original(text)

# Keep a reference to the original is_punct function
is_punct_original = EnglishDefaults.lex_attr_getters[IS_PUNCT]
# Assign a new function for IS_PUNCT
EnglishDefaults.lex_attr_getters[IS_PUNCT] = is_punct_custom