Nov, 2019

通过针对输入的网络剪枝改进特征归因

PDF
TL;DR本研究提出一种通过对神经网络进行输入删减以生成细粒度贡献图的方法，该方法可以反映出全局重要性信息，并通过实验验证表明其效果优于其他方法。
发现论文，激发创造
  • 通过识别具有预测信息的输入特征进行细粒度神经网络解释

    该研究提出一种通过在神经网络输入域上引入瓶颈层，精细地识别输入特征信息的方法，用以衡量输入特征的重要性和网络预测的相关性。研究表明该方法对网络结构不敏感，并结合主流的特征归因方法进行了评估。

    Oct, 2021

  • 神经网络中将学习到的概念归因于训练数据

    通过深度学习模型和数据归因方法，在多层网络上训练网络和探针集合，研究了概念形成的可靠性和内部表示中的人类可解释特征。

    Oct, 2023

  • 深度神经网络公理归因

    本文研究了深度网络输入特征对预测的影响，提出了敏感性和实现不变性两个公理，并指出大部分已知的边缘归因方法并不满足这两个公理。最后，作者设计了一种不需要修改原始网络的全新边缘归因方法 —— 集成梯度，并将其应用于图像、文本和化学模型中。结果表明，该方法不仅具有调试和提取规则的功能，还能够有效地帮助用户更好地使用模型。

    Mar, 2017

  • 采用公理归因先验及期望梯度提升深度学习模型性能

    本研究提出基于期望梯度的新型特征归因方法，并以此为基础推导了新的可调控归因先验。实验结果表明，该方法在图像、基因表达和医疗数据集中均具有较好的性能，可以有效优化模型的解释性能。

    Jun, 2019

  • 神经网络特征评估中的不一致问题探究

    近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

    Apr, 2024

  • 结合特征和实例归因来检测伪影

    本文提出了一种新的训练特征归因方法，通过结合显著性图和实例归因方法，可以有效地发现训练数据中的人工瑕疵，并在实验中取得了良好的结果。

    Jul, 2021

  • 解释能否解释？模型最懂

    提出了一种通过神经网络模型本身来评估特征归因方法的框架，使用神经网络生成关键特征来评估各种归因方法的一致性和局限性。

    Mar, 2022

  • 测试卷积神经网络在基于 MRI 的阿尔茨海默病分类中的归因方法的稳健性

    研究了四种归因方法在阿尔茨海默病分类任务中的有效性，并发现某些广泛使用的归因方法产生高度不一致的结果。

    Sep, 2019

  • 鲁棒归因正则化

    通过公理归因神经网络的视角，我们提出了经典鲁棒优化模型的训练目标，旨在实现鲁棒的集成梯度归因。实验结果表明了我们方法的有效性，并表明需要更好的优化技术或更好的神经网络架构来进行鲁棒的归因训练。

    May, 2019

  • 保持梯度流的情况下在训练之前选择获胜的票数

    该研究旨在通过初始修剪神经网络来提高训练和测试时的资源效率。通过保留网络中的梯度流，提出了一个名为 GraSP 的简单但有效的剪枝标准，并在 VGGNet 和 ResNet 架构上进行了广泛实验，证明其在极度稀疏的情况下具有更好的性能。

    Feb, 2020