深度神经网络公理归因

Mar, 2017

Axiomatic Attribution for Deep Networks

Mukund Sundararajan, Ankur Taly, Qiqi Yan

TL;DR本文研究了深度网络输入特征对预测的影响，提出了敏感性和实现不变性两个公理，并指出大部分已知的边缘归因方法并不满足这两个公理。最后，作者设计了一种不需要修改原始网络的全新边缘归因方法 —— 集成梯度，并将其应用于图像、文本和化学模型中。结果表明，该方法不仅具有调试和提取规则的功能，还能够有效地帮助用户更好地使用模型。

Abstract

We study the problem of attributing the prediction of a deep network to its input features, a problem previously studied by several other works. We identify two fundamental axioms---Sensitivity and implementation invari

attribution deep networks integrated gradients input features implementation invariance

发现论文，激发创造

集成梯度归因方法的四个公理特征

本研究介绍了一种称为 Integrated Gradients 方法的基线归因方法和其四个公理特征，用以揭示神经网络及其他机器学习模型的内部工作机制。

Jun, 2023

采用公理归因先验及期望梯度提升深度学习模型性能

本研究提出基于期望梯度的新型特征归因方法，并以此为基础推导了新的可调控归因先验。实验结果表明，该方法在图像、基因表达和医疗数据集中均具有较好的性能，可以有效优化模型的解释性能。

Jun, 2019

鲁棒归因正则化

通过公理归因神经网络的视角，我们提出了经典鲁棒优化模型的训练目标，旨在实现鲁棒的集成梯度归因。实验结果表明了我们方法的有效性，并表明需要更好的优化技术或更好的神经网络架构来进行鲁棒的归因训练。

May, 2019

深度神经网络基于梯度的归因方法的进一步理解

本研究旨在对四种基于梯度的属性方法进行分析，并在图像和文本分类领域的多个数据集上测试这些方法，提出了一种新的评估指标 Sensitivity-n，并在改进一些方法后建立了一个统一框架，使这些方法能够进行直接比较和更容易实现。

Nov, 2017

尺度与空间的归因

该论文研究应用于感知任务的深度网络的归因问题，并提出了一种名为 “Blur Integrated Gradients” 的新技术，该技术比其他方法具有多个优点，可以准确识别物体并产生一致且干净的解释，适用于图像，视网膜病变和音频事件等多个任务。

Apr, 2020

解释能否解释？模型最懂

提出了一种通过神经网络模型本身来评估特征归因方法的框架，使用神经网络生成关键特征来评估各种归因方法的一致性和局限性。

Mar, 2022

通过针对输入的网络剪枝改进特征归因

本研究提出一种通过对神经网络进行输入删减以生成细粒度贡献图的方法，该方法可以反映出全局重要性信息，并通过实验验证表明其效果优于其他方法。

Nov, 2019

神经网络中将学习到的概念归因于训练数据

通过深度学习模型和数据归因方法，在多层网络上训练网络和探针集合，研究了概念形成的可靠性和内部表示中的人类可解释特征。

Oct, 2023

深度神经网络的基于梯度的解释方法 —— 鲁棒性解释指南

本文介绍了解释深度神经网络的渐变解释性方法，讨论了这些方法如何评估其鲁棒性以及鲁棒性在产生有意义的解释方面的作用，并探讨了渐变方法的局限性和选择解释方法之前应该考虑的最佳实践和属性。

Jul, 2021

通过路径归因实现可信的视觉模型解释

通过系统的研究，我们发现了适用于深度视觉模型的路径归因策略的反直觉结果的条件以及使其不失公理性质的方案，进而提出了一种可靠的视觉模型解释方法并在多个数据集、模型和评估指标上进行了实证验证，表现出与基准方法相比的一致性性能增益。

May, 2023