本文研究使用的 CNN 在一些图像分类问题中表现非常好，但是解释 CNN 的操作是非常困难的。因此，本文提出了一种新型的解释算法，称为 LRP 算法，通过人机交互的方式发现这种算法被用于图像分类问题的特定图像特征敏感性，并针对该方法进行了用户评估。评估结果表明，该算法可以帮助参与者学习一些系统对特定图像特征的敏感性，但是对于新图像的分类任务提供的帮助似乎非常有限。因此，HCI 和人工智能社区需要超越实例级别的解释算法，继续研究解释 AI 的设计和进一步研究的问题。

Feb, 2020

本文提出一种结合 CNN 的区域级显著性估计和像素级显著性预测的新型显著性检测方法，通过使用多尺度特征学习来构建像素级 CNN 并使用自适应超像素进行区域级显著性估计，最后使用另一个 CNN 对像素级和区域级显著性进行融合，实验结果表明该方法优于现有显著性检测方法。

Aug, 2016

本文提出了一种使用卷积神经网络（Convnet）进行显著区域预测的全数据驱动方法，其训练过程通过损失函数对 Euclidean 距离进行测量，利用大量的显著性预测数据进行端到端的快速和精确的架构设计，并提出了两种模型架构解决方案，是首个训练和测试用于显著性预测的端到端卷积神经网络。

Mar, 2016

本文介绍了使用卷积神经网络进行图像视觉显著性建模的方法，采用新的神经网络结构和改进的空间相关性方法，同时使用多重分割提高了性能，实验表明我们提出的方法在公共基准测试中的表现优于目前已发表的最先进技术。

Mar, 2015

本研究提出了一种新颖的深度架构用于显著性预测，通过整合卷积神经网络的不同层级的特征图、学习高低层级特征图的权重和使用先验学习网络来优化模型，使其在目前最大的公共数据集 SALICON 上表现优异且在 MIT300 基准测试中取得竞争性结果。

Sep, 2016

本文提出了一种对卷积神经网络进行扩展的架构，以使其能够有效地预测全向图像（ODI）中的视觉关注数据，从而为内容创建者提供帮助。研究人员通过展示每一步都可以使所生成的显着性地图与基础真实数据更加准确来证明这一算法的可行性。

Sep, 2017

该论文提出了一种新的人脸识别解释框架，使用基于视觉显著性的解释方法来揭示深度人脸识别模型的决策过程；并提出一种新的相关性算法（CorrRISE）来生成显著性图，可同时揭示任意给定一对人脸图像中的相似和不同区域，并设计了两个评估指标来评估人脸识别中通用视觉显著性解释方法的性能， 实验证明该方法在解释人脸识别方面优于其他方法。

May, 2023

本文介绍了基于数据驱动方法的卷积神经网络用于预测图像中显著性区域，并使用损失函数衡量预测结果的欧几里得距离和真实值的差距来进行学习和训练，该网络在 LSUN 2015 挑战赛中表现优秀，是一种快速准确的预测显著性区域的方法。

Jul, 2015

本文探讨了从显著性图中挖掘梯度符号的作用，如何更好地理解多类别分类问题，并揭示了卷积神经网络对图像像素的关注和影响。

Sep, 2023

本研究提出了一种针对深度卷积神经网络的可解释性 AI 显著性图方法，其比流行的高分辨率梯度方法更为高效，并且在精度上也与其相当或更好。通过使用 Layer Ordered Visualization of Information，展示了该方法比其他显著性图方法提供更有趣的网络规模内比例贡献比较。此外，该方法在资源有限的平台上如机器人、手机、低成本工业设备、天文和卫星图像等方面是可行的。

Nov, 2019