在处理上述异常的过程中，使用SHAP解释keras神经网络模型时出现了另一个异常

Question

x_train 看起来像这样（22 个特征）：


total_amount    reward  difficulty  duration    discount    bogo    mobile  social  web income  ... male    other_gender    age_under25 age_25_to_35    age_35_to_45    age_45_to_55    age_55_to_65    age_65_to_75    age_75_to_85    age_85_to_105
0   0.006311    0.2 0.50    1.000000    1.0 0.0 1.0 1.0 1.0 0.355556    ... 1.0 0.0 0.0 0.0 1.0 0.0 0.0 0.0 0.0 0.0
1   0.015595    0.2 0.50    1.000000    1.0 0.0 1.0 1.0 1.0 0.977778    ... 0.0 0.0 0.0 0.0 0.0 0.0 0.0 1.0 0.0 0.0

标签是0和1，这是一个二元分类问题，这里是构建模型的代码，我是按照this page实现SHAP的：


#use SHAG
deep_explainer = shap.DeepExplainer(nn_model_2, x_train[:100])

# explain the first 10 predictions
# explaining each prediction requires 2 * background dataset size runs
shap_values = deep_explainer.shap_values(x_train)

这给了我错误：

KeyError: 0

During handling of the above exception, another exception occurred

我不知道这条消息在抱怨什么，我尝试将 SHAP 与 XGBoost 和逻辑回归模型一起使用，它们都工作正常，我是 keras 和 SHAP 的新手，有人可以帮我看看吗我怎么能解决它？非常感谢。

Answer 1

我认为 SHAP（无论它是什么）需要一个 Numpy 数组，因此索引 x_train 就像一个 Numpy 数组，它会产生错误。尝试：

shap_values = deep_explainer.shap_values(x_train.values)

在处理上述异常的过程中，使用SHAP解释keras神经网络模型时出现了另一个异常

During handling of the above exception, another exception occurred when using SHAP to interpret keras neural network model

python

neural-network

keras

tensorflow

shap