May, 2017

学习解释神经网络：PatternNet 与 PatternAttribution

PDF
TL;DR通过分析线性模型，我们提出了两种更可靠、理论上更加准确的解释方法（PatternNet 和 PatternAttribution），适用于线性模型，并可改善深度神经网络的解释。
发现论文，激发创造
  • 当解释欺骗我们：为什么很多改进版的 BP Attribution 失败了

    该研究分析了多种 BP 方法，提供了一种理论和实证的框架来评估新的和现有的 BP 方法的可信度，表明这些方法的解释与后续层的参数无关，测量了这些方法如何忽略后续层信息，发现 DeepLIFT 是唯一不受此限制的方法。

    Dec, 2019

  • 从语言数据中学习解释

    PatternAttribution 是一种最近介绍的方法，在视觉领域解释深度神经网络的分类；我们证明它也在语言领域生成有意义的解释。

    Aug, 2018

  • 打破可解释深度学习的悖论

    该研究提出了一种使用新方法训练的深度超网络来生成可解释的线性模型的方法，以保留黑匣子深度网络的准确性并提供自由的可解释性，而需要与黑匣子深度模型相同的运行时和内存资源，实现了实用性，实验结果表明，该可解释的深层网络在表格数据上与最先进的分类器一样准确，且在实际预测中也具有与最先进的解释技术相当的解释能力。

    May, 2023

  • 一种针对线性神经网络的新阐释

    线性回归和神经网络广泛用于建模数据。我们提出的研究中，通过对 LNN 的优化分析和与线性回归在合成噪声数据集上的性能比较，证明了没有激活函数的神经网络在训练和测试性能方面都会降低。

    Dec, 2023

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023

  • 解释性深度学习模型用于专利分类中的黑匣子揭示

    通过介绍层次相关传播方法，我们提出了一种新颖的深度可解释专利分类框架，用于提供人类可理解的预测解释。实验结果表明，对于各种评估指标，生成的解释突出了与预测类别相一致的重要相关词汇，使预测结果更易理解，并有助于推广复杂的 AI 专利分类方法在实际应用中的采用。

    Oct, 2023

  • 利用 LRP 最佳实践解释神经网络决策

    本文研究探讨了解释型人工智能（XAI）中的一种常用方法 —— 层级相关性传递（LRP），发现新的应用方式能够更好地表征模型的推理，同时提高 LRP 的对象定位和类别区分性。

    Oct, 2019

  • iNNvestigate 神经网络！

    iNNvestigate 是一个处理深度神经网络的 Python 库，提供了多种分析方法和实现，以便领域专家能够理解和分析复杂神经网络结构，本文利用 iNNvestigate 进行了多种最新神经网络图像分类的分析。

    Aug, 2018

  • 个体神经元的线性解释

    在本文中，我们展示了解释神经元模型内部工作的方法通常仅关注最高激活水平是不足够的，并且最高激活范围只负责神经元因果效应的很小百分比。我们提出神经元应该被理解为概念的线性组合，并开发了一种高效的方法来生成这些线性解释。此外，我们展示了如何使用模拟自动评估描述质量，即在视觉设置中预测神经元对未知输入的激活。

    May, 2024

  • 使用对抗性训练简洁解释神经网络

    本文提出了对于神经网络的输出解释的一种新方法 —— 基于特征归因向量，探究了该方法的 “稀疏性” 及 “稳定性”，对单层网络进行理论探索证明使用对抗训练可以获得稀疏的特征归因向量，该特性不仅在单层网络中适用，而且在深度神经网络中也具有普适性；并对现有的网络训练方法进行对比探究。

    Oct, 2018