Dec, 2018

通过对比反向传播理解 CNN 的个体决策

PDF
TL;DR本研究探讨了 DeConvNets、vanilla Gradient Visualization 和 Guided Backpropagation 等基于反向传播的方法，提出了一种基于 Layer-wise Relevance Propagation (LRP) 方法的 Contrastive Layer-wise Relevance Propagation (CLRP) 方法，能够产生实例特定、类别区分、像素级的解释，并定量地进行评估，证明 CLRP 比 LRP 生成更好的解释。
deep convolutional neural networkbackpropagation-based approacheslayer-wise relevance propagationcontrastive layer-wise relevance propagationexplanations
发现论文，激发创造
  • NLP 中非线性分类器预测解释

    本研究使用层内重要性传播技术（LRP）首次探究其在自然语言处理（NLP）中的应用，特别是用于解释卷积神经网络（CNN）在主题分类任务中的预测结果，并通过多项实验验证 LRP 方法解释 CNN 预测的适用性，实验结果于最近的图像分类研究结果相符。

    Jun, 2016

  • 使用 Softmax 梯度层级相关传播解释卷积神经网络

    该论文提出了一种新的图像分类解释方法 SGLRP，可以成功地定位和归因于目标对象的分类，实证表明它比现有的基于 LRP 的方法更有效。

    Aug, 2019

  • 利用 LRP 最佳实践解释神经网络决策

    本文研究探讨了解释型人工智能（XAI）中的一种常用方法 —— 层级相关性传递（LRP），发现新的应用方式能够更好地表征模型的推理，同时提高 LRP 的对象定位和类别区分性。

    Oct, 2019

  • 当解释欺骗我们：为什么很多改进版的 BP Attribution 失败了

    该研究分析了多种 BP 方法，提供了一种理论和实证的框架来评估新的和现有的 BP 方法的可信度，表明这些方法的解释与后续层的参数无关，测量了这些方法如何忽略后续层信息，发现 DeepLIFT 是唯一不受此限制的方法。

    Dec, 2019

  • 可解释的深度神经网络用于单次试验的脑电波分类

    本研究探讨利用 DNNs 和 LRP 应用于 EEG 数据分析，发现 DNNs 在分类准确性上具有可比性，并且通过 LRP 的热图，可以提供神经活动高分辨率的评估，这是 DNN 在神经科学应用中被限制使用的可解释性不足的潜在解决方案。

    Apr, 2016

  • 情感分析中解释循环神经网络预测

    本文提出了将 Layer-wise Relevance Propagation 扩展到递归神经网络的方法，并应用于五分类情感预测任务中的双向 LSTM 模型，其结果 qualitatively and quantitatively 均优于之前工作中使用的基于梯度的方法。

    Jun, 2017

  • 解释性深度学习模型用于专利分类中的黑匣子揭示

    通过介绍层次相关传播方法，我们提出了一种新颖的深度可解释专利分类框架，用于提供人类可理解的预测解释。实验结果表明，对于各种评估指标，生成的解释突出了与预测类别相一致的重要相关词汇，使预测结果更易理解，并有助于推广复杂的 AI 专利分类方法在实际应用中的采用。

    Oct, 2023

  • 通过分解深度控制解释性热力图的分辨率和语义

    本文将 Layer-wise Relevance Propagation 算法应用于深度卷积神经网络和 Fisher Vector 分类器，通过可视化热图比较两种分类器的图像感知和预测策略。作者演示了在 LRP 过程中不同分解截止点选择对测试图像热图分辨率和语义的影响。

    Mar, 2016

  • 深入探究深度学习模型：基于归因的 TextCNN 解释

    本文提出了一种基于 Convolutional Neural Networks 的特征评估方法用于比较 LRP 与 saliency map 两种模型解释方法的效果，依据实验研究结果，我们采用嵌入式特征的删减而非删减权重高的单词，并在文本分类的应用领域提供了一种可视化工具来辅助分析人员理解模型的结果。

    Nov, 2018

  • 增强可解释人工智能：结合 GradCAM 和 LRP 的混合方法用于 CNN 的解释性

    通过结合 GradCAM 和 LRP 方法，我们提出了一种新的技术来解释基于 CNN 的模型的输出。在这种方法中，首先对 GradCAM 方法产生的解释进行处理以去除噪声，然后将处理后的输出与 LRP 的输出逐元素相乘，最后对乘积应用高斯模糊。通过 Faithfulness、Robustness、Complexity、Localisation 和 Randomisation 等指标我们将该方法与 GradCAM 和 LRP 进行比较，发现该方法在 Complexity 方面性能更好，并且在其他指标中至少比其中一种方法表现更好。

    May, 2024