БЕРТ для NER с hugginface Tensorflow 2 - PullRequest
0 голосов
/ 25 февраля 2020

Мне нужна помощь в использовании BERT для NER в Tensorflow. В основном все учебники в PyTorch. Я был бы очень признателен за советы по любому из двух подходов.

1) Я заинтересован в использовании пакета Huggingface Transformers, так как у них есть класс TFBertForTokenClassification, но нет никакого руководства или руководства о том, как использовать это. Ни как тренироваться на вашем собственном наборе данных.

2) Я реализовал BERT в Tensorflow для классификации текста без дополнительных API / библиотек, кроме необработанной bert библиотеки. Один из подходов состоит в том, чтобы адаптировать это для NER, однако я не уверен, как бы я изменил модель. В настоящее время я только что бросил выпадающий слой и плотный слой поверх модели BERT с предварительной подготовкой, с softmax через плотный слой.

...