一种全面可靠的特征归因方法：双侧去除重构（DoRaR）

Oct, 2023

一种全面可靠的特征归因方法：双侧去除重构（DoRaR）

A Comprehensive and Reliable Feature Attribution Method: Double-sided Remove and Reconstruct (DoRaR)

Dong Qin, George Amariucai, Daji Qiao, Yong Guan, Shen Fu

TL;DR通过改进方法，我们引入了一种名为 DoRaR 的特征归属方法，解决了透明度受限、黑盒模型等困扰，通过对 MNIST、CIFAR10 和自行合成的数据集的全面测试，证明了 DoRaR 特征归属方法能有效绕过上述问题，并有助于训练优于其他最先进特征归属方法的特征选择器。

Abstract

The limited transparency of the inner decision-making mechanism in deep neural networks (DNN) and other machine learning (ML) models has hindered their application in several domains. In order to tackle this issue, feature attribution methods have been developed to identify the crucial

transparency feature attribution methods deep neural networks black box models dorar feature attribution method

发现论文，激发创造

关于 $ extit {RemOve-And-Retrain}$ 的局限性：数据处理不等式的视角

本文评估 RemOve-And-Retrain (ROAR) 协议的可靠性，发现所得指标性能不受有关决策函数信息的影响，这种现象也被观察到在 RemOve-And-Debias (ROAD) 中，并提出了 ROAR 指标的一致模糊偏见趋势。我们的研究结果对 ROAR 指标存在的问题进行了警示。

Apr, 2023

增强型正则化方法用于权责稳健性

该研究论文旨在提出一种强健的归因训练策略来提高深度神经网络的归因鲁棒性，针对近年来的研究表明，尽管这些模型被给予两张非常相似的图像，但其产生的归因图可能会有很大的不同，从而引发了对其可信度的质疑。这个方法通过引入保护模型归因图免受攻击的两个新的正则器来提高归因鲁棒性，并在多个数据集上超越了最先进的归因鲁棒性方法。

Dec, 2020

探索深度神经网络中的异常表示

这篇论文介绍了 DORA（Data-agnOstic Representation Analysis）框架，它利用网络内部的自我解释能力，提出了一种新的距离度量方法，对 DNNs 的表示空间进行了数据无关的分析。通过这个度量方法，可以检测到可能存在风险的异常表示，该方法最终应用于分析并识别了广受欢迎的计算机视觉模型中的人工异常表示。

Jun, 2022

神经网络特征评估中的不一致问题探究

近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

Apr, 2024

深度学习架构中特征归因的协调：增强可解释性和一致性

本研究旨在检验特征归因法在不同深度学习架构模型间的泛化能力，以及探索归一化的特征解释方法在提高机器学习应用的可解释性和信任度方面的潜力。

Jul, 2023

属性归因方法一致高效的评估策略

本文提出了一种新的本地特征归因方法评估框架 Remove and Debias (ROAD)，该框架通过减少信息泄漏和消除计算昂贵的重新训练步骤，为不同的归因技术提供高一致性的评估。

Feb, 2022

DANAA：具有双重敌对神经元归因的可转移攻击

深度神经网络中存在来自攻击样本的干扰，其中特征级攻击是一种有效的攻击类型，本文提出了一种名为 'DANAA' 的双重对抗神经元归因攻击方法，用于获取更准确的特征重要性估计，并通过基于对抗非线性路径将模型输出归因于中间层，以衡量单个神经元的权重，并保留对于传递性更重要的特征。我们在基准数据集上进行了大量实验，展示了我们的方法的最新性能。

Oct, 2023

特征归因方法是否正确归因特征？

本研究探讨了利用特征归因方法进行机器学习的解释，提出通过修改数据集来产生真实归因的方法，并对三种常见的归因方法：显著性图、原理和注意力进行评估，发现这些方法在野外数据集中的正确性和可靠性值得怀疑，建议在部署前使用基准来测试新的归因方法。

Apr, 2021

透過加法分解決定循環神經網路預測的歸因

本文提出了一种新的 RNN 解释方法 ——REAT，旨在提高其可解释能力并能够识别其决策过程中每个单词的加成贡献得分，继而得到基于短语级别的贡献评分，展示作为调试工具支持 RNN 的普适应用，它能展示所捕获的有用的语言知识。

Mar, 2019

结合特征和实例归因来检测伪影

本文提出了一种新的训练特征归因方法，通过结合显著性图和实例归因方法，可以有效地发现训练数据中的人工瑕疵，并在实验中取得了良好的结果。

Jul, 2021