Oct, 2023

神经网络的逐实例线性化用于模型解释

PDF
TL;DR神经网络在科学领域取得了显著的成功，但是其模型的可解释性仍然是将这种技术应用于我们日常生活的主要瓶颈之一。本文提出了一种基于实例的线性化方法，来重新定义神经网络预测的前向计算过程，从而提供了一个突出输入特征重要性并准确解释每个输入特征对预测的贡献的特征归因图。此技术在有监督分类和无监督神经网络学习参数化 t-SNE 降维中的应用也进行了讨论。
neural networkinterpretabilityfeature attributionnon-linear behaviorlinearization approach
发现论文，激发创造
  • 多类模型解释的加法逐实例方法

    本论文提出了一种使用解释模型同时针对多个目标类别进行本地解释的框架，该模型具有更高的解释性和更紧凑的解释，通过广泛的实验验证了该模型具有选择稳定和重要特征的能力。

    Jul, 2022

  • 线性解释引导下的卷积网络导览

    通过研究 LinearScope 中的线性译者，许多好奇的问题得以回答，例如分类使用的一像素一票策略、CNN 使用与人类视觉系统类似的小波基、I2I 中的复制 - 移动和模板创建策略等。

    Aug, 2019

  • 通过基于归因的输入采样和块状特征聚合来解释卷积神经网络

    使用基于归因的输入抽样技术在模型的多个层面收集可视化映射并对其进行聚合，最终实现了对卷积神经网络解释的精细和完整的解释，同时提出了一种基于卷积神经网络模型的层选择策略。实验结果表明，该方法在解释准确度和视觉质量方面能够满足或超越现有方法，且稳定性良好。

    Oct, 2020

  • 线性化神经网络的六堂课

    从线性模型分析多层神经网络的行为，并回顾其与线性模型之间的对应关系，以及线性化神经网络的四种模型：线性回归、核岭回归、随机特征模型和神经切线模型，以及线性理论的局限性和其他方法如何克服这些局限性。

    Aug, 2023

  • 使用线性回归迭代训练神经网络

    本文提出了一种基于线性回归的方法来学习神经网络的权重和偏置，与标准的基于梯度的反向传播相比更为快速、稳定，但仅限于简单前馈神经网络、标量回归问题和可逆激活函数。

    Jul, 2023

  • 通过逐层相关性传递解释复杂机器学习模型的预测

    本文介绍一种基于输入变量对深度神经网络分类决策进行分解的技术，以提高其透明度和可解释性。

    Nov, 2016

  • 基于引导特征反演的深度神经网络预测解释方法

    本文提出了一种基于指导特征反演框架的深度神经网络解释模型，可以确定神经网络中每个特征的贡献并提供决策过程的洞见，通过与 DNN 模型输出层目标类别的神经元进一步交互，我们强制解释结果具有类别区别能力，实验证明了我们提出的框架在提供 DNN 预测的类别判别性解释方面的有效性。

    Mar, 2018

  • 神经网络特征评估中的不一致问题探究

    近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

    Apr, 2024

  • 一种针对线性神经网络的新阐释

    线性回归和神经网络广泛用于建模数据。我们提出的研究中，通过对 LNN 的优化分析和与线性回归在合成噪声数据集上的性能比较，证明了没有激活函数的神经网络在训练和测试性能方面都会降低。

    Dec, 2023

  • 个体神经元的线性解释

    在本文中，我们展示了解释神经元模型内部工作的方法通常仅关注最高激活水平是不足够的，并且最高激活范围只负责神经元因果效应的很小百分比。我们提出神经元应该被理解为概念的线性组合，并开发了一种高效的方法来生成这些线性解释。此外，我们展示了如何使用模拟自动评估描述质量，即在视觉设置中预测神经元对未知输入的激活。

    May, 2024