ICCVAug, 2019

使用 Softmax 梯度层级相关传播解释卷积神经网络

PDF
TL;DR该论文提出了一种新的图像分类解释方法 SGLRP，可以成功地定位和归因于目标对象的分类，实证表明它比现有的基于 LRP 的方法更有效。
发现论文，激发创造
  • 通过对比反向传播理解 CNN 的个体决策

    本研究探讨了 DeConvNets、vanilla Gradient Visualization 和 Guided Backpropagation 等基于反向传播的方法，提出了一种基于 Layer-wise Relevance Propagation (LRP) 方法的 Contrastive Layer-wise Relevance Propagation (CLRP) 方法，能够产生实例特定、类别区分、像素级的解释，并定量地进行评估，证明 CLRP 比 LRP 生成更好的解释。

    Dec, 2018

  • 情感分析中解释循环神经网络预测

    本文提出了将 Layer-wise Relevance Propagation 扩展到递归神经网络的方法，并应用于五分类情感预测任务中的双向 LSTM 模型，其结果 qualitatively and quantitatively 均优于之前工作中使用的基于梯度的方法。

    Jun, 2017

  • NLP 中非线性分类器预测解释

    本研究使用层内重要性传播技术（LRP）首次探究其在自然语言处理（NLP）中的应用，特别是用于解释卷积神经网络（CNN）在主题分类任务中的预测结果，并通过多项实验验证 LRP 方法解释 CNN 预测的适用性，实验结果于最近的图像分类研究结果相符。

    Jun, 2016

  • 层级相关性传播用于可解释的推荐

    本文探讨使用深度学习的模型进行推荐解释的问题，我们使用深度卷积神经网络从输入图像中提取相关特征，并在特征空间中识别图像之间的相似性，最后使用 Amazon 产品数据集验证了我们方法的有效性。

    Jul, 2018

  • 卷积文本图分类器中的逐层关联可视化

    本研究提出了一种新颖的方法，在可见层和隐藏层中追踪和可视化有贡献的特征，以解释 GCN 句子分类器的决策，并揭示了输入图结构中的隐藏跨层动态。

    Sep, 2019

  • 评估深度神经网络学习的可视化

    本文提出了一种可视化深度神经网络分类决策的方法，使用基于区域扰动的方法评估热图，并比较了三种不同方法计算的热图对网络分类决策的解释力，结果发现基于层级相关传播方法对解释分类决策的效果更好。同时，本文还探讨了利用热图进行神经网络性能无监督评估的方法。

    Sep, 2015

  • 超越显著性：从层级关联传播的显著性预测理解卷积神经网络

    本论文提出了一种新的二步解释方法 —— SR map，可以更好地理解深度卷积神经网络如何识别图像并从所谓的注意区域中学习特征。该方法清楚地表明了哪些关键像素和注意力区域对于深度卷积神经网络理解给定的图像是有贡献的。

    Dec, 2017

  • 增强可解释人工智能：结合 GradCAM 和 LRP 的混合方法用于 CNN 的解释性

    通过结合 GradCAM 和 LRP 方法，我们提出了一种新的技术来解释基于 CNN 的模型的输出。在这种方法中，首先对 GradCAM 方法产生的解释进行处理以去除噪声，然后将处理后的输出与 LRP 的输出逐元素相乘，最后对乘积应用高斯模糊。通过 Faithfulness、Robustness、Complexity、Localisation 和 Randomisation 等指标我们将该方法与 GradCAM 和 LRP 进行比较，发现该方法在 Complexity 方面性能更好，并且在其他指标中至少比其中一种方法表现更好。

    May, 2024

  • 通过逐层相关性传递解释复杂机器学习模型的预测

    本文介绍一种基于输入变量对深度神经网络分类决策进行分解的技术，以提高其透明度和可解释性。

    Nov, 2016

  • 使用修剪的逐层相关传播稀疏解释神经网络

    我们提出了一种修改后的解释方法，通过修剪不同层的相关传播来降低噪音，同时集中关注最重要的特征，从而提高深度神经网络输出的解释性。

    Apr, 2024