用于 Shapley 值近似的多项式时间算法解释深度神经网络

ICMLMar, 2019

用于 Shapley 值近似的多项式时间算法解释深度神经网络

Explaining Deep Neural Networks with a Polynomial Time Algorithm for Shapley Values Approximation

Marco Ancona, Cengiz Öztireli, Markus Gross

TL;DR该研究提出了一种基于不确定性传播的深度神经网络 Shapley 值的多项式时间逼近方法，相较于现有最先进的归因方法，该方法可以显著地更好地逼近 Shapley 值。

Abstract

The problem of explaining the behavior of deep neural networks has recently gained a lot of attention. While several attribution methods have been proposed, most come without strong theoretical foundations, which

deep neural networks attribution methods shapley values cooperative game theory uncertainty propagation

发现论文，激发创造

Shapley 解释网络

本文提出使用 Shapley values 作为深度模型的潜在表示，使得 Shapley explanations 能够成为建模范式的第一等公民，从而实现了层次化解释、模型在训练期间的解释以及快速解释计算。作者证明了 ShapNets 确保 Shapley 值的缺失和准确性，并通过在合成和真实数据集上的演示展示了它的有效性。

Apr, 2021

HarsanyiNet：在单个前向传播中计算准确的 Shapley 值

该研究提出了一种名为 HarsanyiNet 的新型神经网络结构，可以在进行单次前向传播时推断输入样本和精确计算输入变量的 Shapley 值，并且基于理论基础设计，将 Shapley 值重新制定为由网络编码的 Harsanyi 交互的重新分配。

Apr, 2023

解释博弈：使用 Shapley 值解释机器学习模型

本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

Sep, 2019

变分 Shapley 网络：基于概率的自解释 Shapley 值与不确定性量化方法

我们引入了一种新颖的、能够显著简化 Shapley 值计算的自解释方法，并且探索了将概率框架纳入其中以捕捉解释中固有的不确定性，它基于一个新颖的遮蔽神经网络体系结构，在模拟和真实数据集上的评估验证了我们技术的稳健预测和解释性能。

Feb, 2024

数据评估的加速 Shapley 值近似算法

通过利用机器学习问题的结构性质，我们提出了一种更高效的近似数据 Shapley 值的方法，此方法在不同学习设置中包括随机梯度下降和凸、非凸损失函数中证明了其近似 Shapley 值的准确性收敛性。实验证明，这种方法在保持数据的近似价值和排名的同时，提高了近似速度最高可达 9.9 倍，并且在使用小的子集进行精确评估时，对预训练网络的效率更高。

Nov, 2023

DeepCSHAP: 利用 Shapley 值解释深度复杂值神经网络

深度神经网络和解释算法在复杂数值神经网络研究中的关键应用和评估

Mar, 2024

GNNShap: 使用 Shapley Values 实现快速精确的 GNN 解释

本研究提出了 GNNShap 方法，通过并行化抽样、批处理加速模型预测，为边提供更自然和细粒度的图解释，克服了样本数有限、速度慢等限制，并在真实数据集上取得了较好的可信度分数和更快的解释。

Jan, 2024

当特征具有依赖性时解释单个预测：更准确的 Shapley 值逼近

本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。

Mar, 2019

机器学习中的 Shapley 值

本文介绍了合作博弈理论的基本概念以及 Shapley value 的公理性质，概述了其在机器学习中的最重要应用：特征选择，可解释性，多智能体强化学习，集成修剪和数据估价，指出了 Shapley value 的主要局限性和未来研究方向。

Feb, 2022

Shapley 值在可解释性方面的不足

本论文发现使用 Shapley 值进行可解释 AI (XAI) 会导致关于特征重要性的推断存在严重偏差，并指出在某些分类器的情况下，计算严格特征归因值的有效算法的存在性应被视为不太可能。

Feb, 2023