ICLRApr, 2021

Shapley 解释网络

PDF
TL;DR本文提出使用 Shapley values 作为深度模型的潜在表示，使得 Shapley explanations 能够成为建模范式的第一等公民，从而实现了层次化解释、模型在训练期间的解释以及快速解释计算。作者证明了 ShapNets 确保 Shapley 值的缺失和准确性，并通过在合成和真实数据集上的演示展示了它的有效性。
shapley valuesexplanation methodsdeep modelsshapnetsmodel regularization
发现论文，激发创造
  • 变分 Shapley 网络：基于概率的自解释 Shapley 值与不确定性量化方法

    我们引入了一种新颖的、能够显著简化 Shapley 值计算的自解释方法，并且探索了将概率框架纳入其中以捕捉解释中固有的不确定性，它基于一个新颖的遮蔽神经网络体系结构，在模拟和真实数据集上的评估验证了我们技术的稳健预测和解释性能。

    Feb, 2024

  • 用于 Shapley 值近似的多项式时间算法解释深度神经网络

    该研究提出了一种基于不确定性传播的深度神经网络 Shapley 值的多项式时间逼近方法，相较于现有最先进的归因方法，该方法可以显著地更好地逼近 Shapley 值。

    Mar, 2019

  • 基于 ONNX 的通用框架：使用 Shapley 值解释神经网络的 ONNXExplainer

    ONNXExplainer 是一个用 Shapley 值在 ONNX 生态系统中解释神经网络的通用框架，其自动微分和优化方法实现了一次部署、高效计算解释和更少内存消耗。通过与 SHAP 进行比较，广泛的基准测试表明，所提出的优化方法能够提高 VGG19、ResNet50、DenseNet201 和 EfficientNetB0 的解释延迟高达 500%。

    Sep, 2023

  • DeepCSHAP: 利用 Shapley 值解释深度复杂值神经网络

    深度神经网络和解释算法在复杂数值神经网络研究中的关键应用和评估

    Mar, 2024

  • HarsanyiNet：在单个前向传播中计算准确的 Shapley 值

    该研究提出了一种名为 HarsanyiNet 的新型神经网络结构，可以在进行单次前向传播时推断输入样本和精确计算输入变量的 Shapley 值，并且基于理论基础设计，将 Shapley 值重新制定为由网络编码的 Harsanyi 交互的重新分配。

    Apr, 2023

  • 解释博弈：使用 Shapley 值解释机器学习模型

    本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

    Sep, 2019

  • GNNShap: 使用 Shapley Values 实现快速精确的 GNN 解释

    本研究提出了 GNNShap 方法，通过并行化抽样、批处理加速模型预测，为边提供更自然和细粒度的图解释，克服了样本数有限、速度慢等限制，并在真实数据集上取得了较好的可信度分数和更快的解释。

    Jan, 2024

  • 通过传播局部组成部分的 Shapley 值来解释模型

    介绍了一种名为 DeepSHAP 的混合模型解释框架，它基于 Shapley 值，可以用来解释由不同模型堆叠而成的复杂模型，包括神经网络和树形模型，并能够为损失函数提供解释。

    Nov, 2019

  • 模型解释的多个 Shapley 值

    本文探讨了 Shapley 值在归因问题中的多样实现方式及产生的问题，且提出了一种基于独特性原理的技术 Baseline Shapley（BShap），并将其与 Integrated Gradients 进行对比。

    Aug, 2019

  • 数据流形上的 Shapley 可解释性

    本研究旨在介绍 Shapley 可解释性的一个数学根据和模型独立的框架，但是通常的 Shapley 可解释性实现做了一个不切实际的假设，即模型的特征是不相关的，而作者这里提出了两种策略去解决这个问题，基于生成建模的方法提供灵活的数据归因，另一种直接学习了 Shapley 价值函数，提供了性能和稳定性，但缺陷是没有灵活性，通过我们的研究表明该假设会导致展示效果错误，隐藏敏感性属性的隐含模型依赖性和意义不明的高维数据。

    Jun, 2020