Я построил модель CNN, в которой последний уровень представляет собой линейную активацию с одним узлом, так что она выполняет регрессию. Я обучил свою модель и теперь хочу интерпретировать модель с помощью таких инструментов, как tf-объяснение и SHAP. Однако кажется, что tf-объяснение и SHAP требуют, чтобы мы упоминали class_index изображения в их функциях
from tf_explain.core.smoothgrad import SmoothGrad
explainer = SmoothGrad()
grid = explainer.explain(data, model, class_index=281)
SHAP также делает нечто подобное в своей документации. Кто-нибудь использовал инструменты интерпретации моделей для моделей CNN, которые выполняют регрессию? Если да, то как вы его использовали?