DeepCSHAP: 利用 Shapley 值解释深度复杂值神经网络
介绍了一种名为 DeepSHAP 的混合模型解释框架，它基于 Shapley 值，可以用来解释由不同模型堆叠而成的复杂模型，包括神经网络和树形模型，并能够为损失函数提供解释。
Nov, 2019
本文提出使用 Shapley values 作为深度模型的潜在表示，使得 Shapley explanations 能够成为建模范式的第一等公民，从而实现了层次化解释、模型在训练期间的解释以及快速解释计算。作者证明了 ShapNets 确保 Shapley 值的缺失和准确性，并通过在合成和真实数据集上的演示展示了它的有效性。
Apr, 2021
该研究提出了一种基于不确定性传播的深度神经网络 Shapley 值的多项式时间逼近方法，相较于现有最先进的归因方法，该方法可以显著地更好地逼近 Shapley 值。
Mar, 2019
我们引入了一种新颖的、能够显著简化 Shapley 值计算的自解释方法，并且探索了将概率框架纳入其中以捕捉解释中固有的不确定性，它基于一个新颖的遮蔽神经网络体系结构，在模拟和真实数据集上的评估验证了我们技术的稳健预测和解释性能。
Feb, 2024
ONNXExplainer 是一个用 Shapley 值在 ONNX 生态系统中解释神经网络的通用框架，其自动微分和优化方法实现了一次部署、高效计算解释和更少内存消耗。通过与 SHAP 进行比较，广泛的基准测试表明，所提出的优化方法能够提高 VGG19、ResNet50、DenseNet201 和 EfficientNetB0 的解释延迟高达 500%。
Sep, 2023
SHAPNN 是一种新颖的深度表格数据建模架构，通过利用 Shapley 值，一种解释黑盒模型的常用技术，我们的神经网络使用标准的反向传播优化方法进行训练，并利用实时估计的 Shapley 值进行正则化。我们的方法具有多个优点，包括可以为数据实例和数据集提供有效的解释而无需计算开销，而且带解释的预测还可以作为正则化器，提高模型性能，增强模型的持续学习能力。我们在各种公开可用的数据集上评估了我们的方法，并与最先进的深度神经网络模型进行比较，展示了 SHAPNN 在 AUROC、透明度和对流数据的鲁棒性方面的卓越性能。
Sep, 2023
本研究提出了 GNNShap 方法，通过并行化抽样、批处理加速模型预测，为边提供更自然和细粒度的图解释，克服了样本数有限、速度慢等限制，并在真实数据集上取得了较好的可信度分数和更快的解释。
Jan, 2024
本文提出 Shap-CAM，一种基于类激活映射的新型后续可视化解释方法，通过获取 Shapley 值来消除依赖于梯度的先前方法的不足，表现出更好的视觉性能和公平性以解释决策过程。
Aug, 2022
FastSHAP 是一种使用学习解释器模型在一次正向传递中估计 Shapley 值的方法，通过启发 Shapley 值加权最小二乘估计的学习方法来分摊解释许多输入的成本，并且可以使用标准的随机梯度优化进行训练，与现有的估计方法进行比较，显示出具有高质量解释的数量级加速。
Jul, 2021
本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。
Mar, 2019