Есть ли способ получить вектор внимания с нормирующими значениями (0-1) из последнего слоя BERT? Я заинтересован в получении значения внимания, которое BERT присваивает каждому слову в предложении.
Я работаю над классификацией эмоций. Я хочу извлечь соответствующие слова, связанные с эмоциями. Например:
Я чувствую себя прекрасно сегодня.
Слова «Чувствуй и замечательно» - более подходящие слова в предложении для классификатора, поэтому я хочу получить оценки внимания, которые BERT присваивает каждому из них.
Заранее спасибо