Я могу использовать конвейер заполнения маски обнимающего лица, чтобы предсказать 1 маскированный токен в предложении, используя следующее:
!pip install -q transformers
from __future__ import print_function
import ipywidgets as widgets
from transformers import pipeline
nlp_fill = pipeline('fill-mask')
nlp_fill("I am going to guess <mask> in this sentence")
Но есть ли у кого-нибудь мнение о том, как лучше всего это сделать, если Я хочу предсказать 2 токена в маске? например, если предложение вместо "I am going to <mask> <mask> in this sentence"?
Если я попытаюсь вставить это точное предложение в nlp_fill, я получу ошибку "ValueError: only one element tensors can be converted to Python scalars", поэтому она не работает автоматически.
Любая помощь будет принята с благодарностью!