本文主要研究神经网络在 3D 数据中的可解释性和稀疏性，提出了一种基于边缘和角点的视觉显著性方法并成功地在 Voxception-ResNet（一种基于体素的分类网络）上实现了参数精简.

Jun, 2020

本文介绍了一种用于解释三维卷积神经网络的自动概念解释（ACE）框架，该框架基于高水平的 supervoxels 表示视频，并估计每个 Supervoxel 的重要性得分，可以发现不同重要级别的时空概念，并深入探索这些概念对目标任务（例如动作分类）的影响。

Jun, 2022

本文提出了一种使用卷积神经网络（Convnet）进行显著区域预测的全数据驱动方法，其训练过程通过损失函数对 Euclidean 距离进行测量，利用大量的显著性预测数据进行端到端的快速和精确的架构设计，并提出了两种模型架构解决方案，是首个训练和测试用于显著性预测的端到端卷积神经网络。

Mar, 2016

本研究提出了一种简单的方法，使用 2D 网络和中间特征表示来处理 3D 数据，并使用特征减少模块进行分类，以解决在医学分类的基准测试和实际临床数据中训练成功受限的问题。

Jul, 2023

该论文提出了一种新的人脸识别解释框架，使用基于视觉显著性的解释方法来揭示深度人脸识别模型的决策过程；并提出一种新的相关性算法（CorrRISE）来生成显著性图，可同时揭示任意给定一对人脸图像中的相似和不同区域，并设计了两个评估指标来评估人脸识别中通用视觉显著性解释方法的性能， 实验证明该方法在解释人脸识别方面优于其他方法。

May, 2023

提出了一种名为 Saliency Tubes 的方法，用于改善 3D 卷积神经网络（CNNs）的解释性，旨在理解网络内部运作方式并分离视频中网络发现的最关键的时空区域。

Feb, 2019

本研究提出了一种新的基于 CNN 的光场显著性检测框架，提出了三个新颖的 MAC（模型角度改变）块来处理光场微透镜图像，同时还建立了一个大规模的数据集和标准，可以用来训练更深的神经网络和进行评测，实验证明，我们的方法在该数据集上明显优于现有的最先进方法，并在其他数据集上具有理想的泛化能力。

Jun, 2019

本文提出了一种对卷积神经网络进行扩展的架构，以使其能够有效地预测全向图像（ODI）中的视觉关注数据，从而为内容创建者提供帮助。研究人员通过展示每一步都可以使所生成的显着性地图与基础真实数据更加准确来证明这一算法的可行性。

Sep, 2017

本文结合三个人体实验研究基于显著性的可解释性方法对于卷积神经网络的解释效果，并评估其可行性。

Jun, 2021

本文研究使用的 CNN 在一些图像分类问题中表现非常好，但是解释 CNN 的操作是非常困难的。因此，本文提出了一种新型的解释算法，称为 LRP 算法，通过人机交互的方式发现这种算法被用于图像分类问题的特定图像特征敏感性，并针对该方法进行了用户评估。评估结果表明，该算法可以帮助参与者学习一些系统对特定图像特征的敏感性，但是对于新图像的分类任务提供的帮助似乎非常有限。因此，HCI 和人工智能社区需要超越实例级别的解释算法，继续研究解释 AI 的设计和进一步研究的问题。

Feb, 2020