Использование GPT2 для вставки слов в существующий текст, чтобы «украсить» его - PullRequest
0 голосов
/ 14 июня 2019

У меня есть простое предложение для генератора квестов RPG, например

«Питер должен сражаться с Деймоном, чтобы вырваться».

Что я хочу сделатьсостоит в том, чтобы украсить эти предложения так, чтобы я получил что-то вродебесплатно. "

Я много экспериментировал с великолепной библиотекой предварительно подготовленных персонажей huggface (https://github.com/huggingface/pytorch-pretrained-BERT)), и мне удалось сгенерировать несколько простых текстов с использованием модели BERT с предварительной подготовкой, добавив [MASK] токены в моем простом предложении.

Поскольку BERT предлагает процедуру маскировки, легко вставить текст, но результаты были не очень хорошими по сравнению, например, с Catching Unicorns (http://gltr.io/). К моему предложению добавлено много повторений и знаков препинания, которые в действительности не вписываются.

Теперь я хочу попробовать GPT2, который, как мне сказали, намного лучше подходит для генерации текста, но у меня нетпеременный токКак улучшить / украсить существующее предложение без функции маскировки, которая, кажется, не существует в классах GPT2 от huggingface.

У кого-нибудь есть идеи, как мне двигаться дальше?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...