Объяснитель извести показывает вероятности предсказания, отличные от предсказания классификатора - анализ настроений

Question

Я использую Lime, чтобы проследить поведение, почему модель принимает свое решение, чтобы предсказать, является ли это предложение (NEG, POS или NEUTRAL), и в большинстве случаев Lime объясняет правильно, но в таком случае, почему я ввел предложение NEGмодель прогнозирует ее как НЕЙТРАЛЬНУЮ, но Lime визуализирует ее с наибольшим процентом NEG, так почему я получил такую ​​логическую ошибку?

Прогноз модели против прогноза Лайма

Answer 1

Вы не предоставляете много подробностей, поэтому мой ответ будет примерно таким же общим: ваша исходная модель делает неверный прогноз. Тогда известь делает линейное приближение модели. Из-за приближенного характера линейной модели это не совсем так, как в исходной модели, и отличается от исходной модели. В вашем случае исходная модель дает неправильный прогноз, а отклонение линейного приближения - случайно - в направлении правильного ответа, так что вы случайно получаете правильный ответ из аппроксимации, хотя исходная модель была неправильной .