Вопрос о тонкой настройке Bert для MaskedLM - PullRequest
0 голосов
/ 28 апреля 2020

Я работаю с BERT для неполных предложений. В частности, предложения на испанском sh без статей, такие как:

Abandonó ___ universidad el primer año.

Предсказанное слово должно быть статьей "la".

Я хочу улучшить свою точность. Я много читал о тонкой настройке, но все еще немного растерялся по этому поводу. Мне было интересно, смогу ли я точно настроить BertforMaskedLM, сосредоточившись именно на этом типе слов, например, маскируя только статьи по назначению или что-то в этом роде.

Заранее спасибо.

...