Как запустить Stanford CoreNLP для лемматизации в Google Colab? - PullRequest
Новая
       36

Как запустить Stanford CoreNLP для лемматизации в Google Colab?

0 голосов
/ 09 марта 2020

Похожий вопрос сделан, однако Google Colab сильно изменился с того времени, мне было интересно, как использовать Stanford CoreNLP в Google Colab, специально для лемматизации.

Ожидаемый ответ:

  • Импортировать модуль
  • Лемматизировать с примером кода

Используя код: 

!pip install stanfordnlp
import stanfordnlp
stanfordnlp.download("es")
nlp = stanfordnlp.Pipeline(processors='tokenize,mwt,pos,lemma')
doc = nlp("Barack Obama was born in Hawaii.")
print(*[f'word: {word.text+" "}\tlemma: {word.lemma}' for sent in doc.sentences for word in sent.words], sep='\n')

%tb

------------
Loading: tokenize
With settings: 
{'model_path': '/root/stanfordnlp_resources/en_ewt_models/en_ewt_tokenizer.pt', 'lang': 'en', 'shorthand': 'en_ewt', 'mode': 'predict'}
Cannot load model from /root/stanfordnlp_resources/en_ewt_models/en_ewt_tokenizer.pt
An exception has occurred, use %tb to see the full traceback.

SystemExit: 1

/usr/local/lib/python3.6/dist-packages/IPython/core/interactiveshell.py:2890: UserWarning: To exit: use 'exit', 'quit', or Ctrl-D.
  warn("To exit: use 'exit', 'quit', or Ctrl-D.", stacklevel=1)

будет рассмотрен любой совет по улучшению вопроса

1 Ответ

1 голос
/ 09 марта 2020

Может быть, лучше использовать новые StanfordNLP вместо их старых CoreNLP. 

!pip install stanfordnlp
import stanfordnlp
stanfordnlp.download("en")
nlp = stanfordnlp.Pipeline(processors='tokenize,mwt,pos,lemma')
doc = nlp("Barack Obama was born in Hawaii.")
print(*[f'word: {word.text+" "}\tlemma: {word.lemma}' for sent in doc.sentences for word in sent.words], sep='\n')

Вы получите этот вывод 

word: Barack    lemma: Barack
word: Obama     lemma: Obama
word: was   lemma: be
word: born  lemma: bear
word: in    lemma: in
word: Hawaii    lemma: Hawaii
word: .     lemma: .

Вот пример ноутбук .

...