Тонкая настройка средства BERT Model - PullRequest
0 голосов
/ 26 апреля 2020

Я пытаюсь понять механизм BERT для создания встраивания слов, ниже мое понимание, пожалуйста, исправьте меня, если я ошибаюсь: в BERT есть два шага, один - импортировать предварительно обученную модель из контрольной точки. Второй шаг - это точная настройка импортированной модели. Я немного озадачен тонкой настройкой: добавление нескольких плотных слоев и обучение этих плотных слоев с использованием наших данных. Или тонкая настройка подразумевает несколько верхних слоев трансформаторов модели BERT.

Помогите мне получить ясность!

...