我看到两个用于“DeepExplain”神经网络实现的不同存储库。它们有何不同？它们是相同的算法，但由不同的人实现吗？
使用 DeepExplainer 的深度学习示例（TensorFlow/Keras 模型）
DeepExplain 在两个不同的存储库中？
数据挖掘
神经网络
2022-03-13 02:18:30
2个回答
它们是不同算法的两种实现。
SHAP 提供了两个特定于模型的解释器 DeepShap 和 GradientShap 用于解释神经网络模型。前者结合了 DeepLift 和 Shapley 值的思想，后者结合了 IntegratedGradients 和 Shapley 值的思想。SHAP 还提供了一种名为 KernalShap 的模型无关算法，它使用了 LIME 的思想，但对局部扰动样本的权重进行了修改。
DeepExplain 包在一个统一的框架中提供了不同的算法，包括 DeepLift 和 IntegratedGradients。
这是一篇有用的 SHAP 文章https://christophm.github.io/interpretable-ml-book/shap.html。在 Captum 的文档https://captum.ai/docs/algorithms中也可以找到对这些算法的一些简要说明。
似乎这两个存储库都是用于“网络解释器”的。
SHAP 存储库看起来像是他们在引文部分引用的算法的官方实现。
虽然 DeepExplain 存储库有更广泛的方法算法，但我认为这不是官方的实现。