掩蔽器在 SHAP 包中真正做了什么并适合它们进行训练或测试？

Question

我一直在尝试使用 shap 包。我想从我的逻辑回归模型中确定形状值。与 TreeExplainer 相反，LinearExplainer 需要一个所谓的屏蔽器。这个屏蔽器到底是做什么的，独立屏蔽器和分区屏蔽器有什么区别？

另外，我对测试集中的重要特征很感兴趣。然后我是将掩蔽器安装在训练集还是测试集上？您可以在下面看到一段代码。

model = LogisticRegression(random_state = 1)
model.fit(X_train, y_train)

masker = shap.maskers.Independent(data = X_train)
**or**
masker = shap.maskers.Independent(data = X_test)

explainer = shap.LinearExplainer(model, masker = masker)
shap_val = explainer(X_test)```

Answer 1

Masker class 提供背景数据来“训练”您的解释器。即，在：

explainer = shap.LinearExplainer(model, masker = masker)

您正在使用由屏蔽器确定的背景数据（您可以通过访问 masker.data 属性查看使用了哪些数据）。您可以阅读更多关于“真实模型”或“真实数据”的解释 here or here。

根据上面给出的计算方式，您可以同时执行这两项操作：

masker = shap.maskers.Independent(data = X_train)

---

或

---

masker = shap.maskers.Independent(data = X_test)
explainer = shap.LinearExplainer(model, masker = masker)

但从概念上讲，我认为以下内容更有意义：

masker = shap.maskers.Independent(data = X_train)
explainer = shap.LinearExplainer(model, masker = masker)

这类似于通常的 train/test 范例，您可以在训练数据上训练您的模型（和解释器），并尝试预测（并解释）您的测试数据。

---

与问题无关。为您采样数据的屏蔽器的替代方法是明确提供可能允许比较 2 个数据点的背景：一个用于比较的点，以及感兴趣的点，例如 this 笔记本。以这种方式，人们可能会发现为什么 2 个看似相似的数据点被 class 不同地化。