В настоящее время я генерирую текст из левого контекста, используя пример сценария run_generation.py
библиотеки преобразователей huggingface с gpt-2:
$ python transformers/examples/run_generation.py \
--model_type gpt2 \
--model_name_or_path gpt2 \
--prompt "Hi, " --length 5
=== GENERATED SEQUENCE 1 ===
Hi, could anyone please inform me
Я хотел бы создать короткие полные предложения. Можно ли как-то сказать модели, что она заканчивает sh предложением перед length
словами?
Примечание: я не против изменить модель, но предпочитаю авторегрессивную.