Что означает «дегенерация текста»?

Question

В машинном обучении, особенно в НЛП, что значит вырождать текст?

Я слышал эту фразу несколько дней назад в своем офисе, и после поиска в Google я увидел, что есть некоторыедокументы для него, поэтому я подумал, что это может быть важно, и я здесь, чтобы узнать терминологию.

Заранее спасибо.

Answer 1

Этот термин, согласно этой статье , означает ситуации в процессе генерации текста, когда другая модель генератора находит состояние x , такое, что G (x) = x , что означает, что сгенерированный текст повторяется бесконечно, или, в соответствии с состоянием ошибки в середине процесса генерации, модель начинает воспроизводить некогерентные текстовые шаблоны.