AAAIDec, 2023

MFABA：一种更忠实和加速的基于边界的深度神经网络归因方法

PDF
TL;DR通过提出的 MFABA 算法，该研究论文证明了其在解释深度神经网络方面的卓越效果，并通过大规模实验表明其比其他算法快 101.5142 倍。
deep neural networksattributioninterpretabilitymfaba algorithmefficiency
发现论文，激发创造
  • 探究归因方法的改进

    本文提出三种新的评估方案来衡量影响深度神经网络决策的图像区域，以及平衡各种评估方法之间的比较，并提出一个后处理平滑步骤来改善一些归因方法的性能。

    May, 2022

  • 面向属性鲁棒性的通用框架 FAR

    该研究提出一种名称为 FAR 的新型范式，用于通过在输入的局部领域内最小化属性映射的最大差异来训练模型的鲁棒属性。通过新模型 AAT 和 AdvAAT 的实验表明，所提出的方法在对抗干扰下都更有稳健性。

    Oct, 2020

  • 深度神经网络基于梯度的归因方法的进一步理解

    本研究旨在对四种基于梯度的属性方法进行分析，并在图像和文本分类领域的多个数据集上测试这些方法，提出了一种新的评估指标 Sensitivity-n，并在改进一些方法后建立了一个统一框架，使这些方法能够进行直接比较和更容易实现。

    Nov, 2017

  • 时间关注：使用时间序列归因方法的全面基准测试

    本文重点研究时间序列分析，对比了几种最先进的卷积分类器解释方法，发现扰动法是较优选项，但也强调选择最适合的归因方法与所需用例的选择密切相关。

    Feb, 2022

  • 通过系统评估更好地理解归因方法的差异

    本研究提出了三种评估方案以更可靠地衡量不同的图像归因方法的可信度，并在一系列模型上研究了一些广泛使用的归因方法的优缺点，并提出一种后处理平滑步骤以显著提高某些归因方法的性能。

    Mar, 2023

  • 测试卷积神经网络在基于 MRI 的阿尔茨海默病分类中的归因方法的稳健性

    研究了四种归因方法在阿尔茨海默病分类任务中的有效性，并发现某些广泛使用的归因方法产生高度不一致的结果。

    Sep, 2019

  • EvalAttAI: 对鲁棒和非鲁棒模型中评估属性图的整体方法

    探索透视医学影像分类应用的影响映射方法和度量评估，提出 EvalAttAI 度量已有度量的局限并进行改进，结果显示：使用 Vanilla Gradient 方法的贝叶斯深度神经网络通常更具可解释性。

    Mar, 2023

  • 基于因果分析的归因检测对抗样本

    使用涉及一系列方法来解释机器学习模型的决策，研究表明这种方法可以用于确定高属性特征的影响并检测出恶意攻击。

    Mar, 2019

  • AAFACE: 面部识别的属性感知注意力网络

    我们提出了一种新的多分支神经网络，同时作为辅助模态进行软生物测量预测并作为主任务进行人脸识别。我们的网络 AAFace 利用软生物测量属性来增强人脸识别表征的区分能力，并通过属性感知注意整合模块（AAI）对人脸识别与软生物测量特征图进行加权整合。实验结果验证了我们提出的网络在软生物测量预测和人脸识别方法方面的卓越性。

    Aug, 2023

  • 特征归因的稳定性评估框架：您的解释是否稳健？

    提出了一种模型无关的方法 MeTFA 用于量化不确定性并增加解释算法的稳定性，该方法可将信任度提高，并可在保持可信度的同时显著减少不稳定性，并展示了在语义分割模型中定位上下文偏差和抵御针对解释的对抗攻击的潜在能力。

    Sep, 2022