为 PyTorch RNN / LSTM 使用 SHAP 值

Use SHAP Values for PyTorch RNN / LSTM

有没有办法做到以上几点？ SHAP 包非常有用，适用于 PyTorch 神经网络。对于 PyTorch RNN，我收到以下错误消息（对于 LSTM，它是相同的）：

好像没用，但有什么解决方法吗？有人有使用 PyTorch 和 SHAP 的经验吗？

'PyTorch DeepExplainer 尚不支持 RNN（弹出警告让您知道尚不支持哪些模块：警告：无法识别 nn.Module：RNN）。在这种情况下，解释器假设模块是线性的，并且不改变梯度。由于 RNN 包含非线性，这可能是导致问题的原因。这是我在 Shap 找到的答案。

尝试检查基于 PyTorch 构建的 captum.ai。