本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

Oct, 2018

本研究探索了现有的用于评估显著图质量（即 “保真度”）的指标，并发现当前文献中这些指标的计算方式缺乏一致性，且可重复性差，说明用这些指标生成的显著图质量排名可能不可信。

Nov, 2019

本研究采用掩蔽技术生成显著性地图，发现训练分类器的同时，采用掩蔽技术生成显著性地图具有很高的性能，并且 10 个样本每类也可以显著提高显著性地图的精度。

Oct, 2020

本文提出了一种基于合成数据集的神经网络解释方法的量化基准评估，结果表明我们的合成数据集足以挑战大多数基准方法，而 TreeShap、mRMR 和 LassoNet 是最佳表现的 FS（特征选择）方法，并且当评估少数非线性交绉的预测特征时，神经网络基础的 FS 和解释方法仍然不可靠。

Apr, 2023

本篇论文研究了基于 saliency 的可解释性方法在时间序列数据上的应用，提出并比较了多种 saliency 方法在不同神经网络结构上的性能，并提出多种指标进行评估，发现常规的网络结构和 saliency 方法难以可靠和精确地识别时间序列数据中特征的重要性，这主要是由于时间和特征领域的混淆所导致的，但使用文中提出的两步形式的时间 saliency rescaling 方法可以显著提高 saliency 图的质量。

Oct, 2020

本研究探讨了利用特征归因方法进行机器学习的解释，提出通过修改数据集来产生真实归因的方法，并对三种常见的归因方法：显著性图、原理和注意力进行评估，发现这些方法在野外数据集中的正确性和可靠性值得怀疑，建议在部署前使用基准来测试新的归因方法。

Apr, 2021

本文通过分析反向传播型显著性方法，提出了一个框架，将多种方法统一起来，进而提出了一个新的基于空间梯度特征的显著性方法 - NormGrad，并通过将不同层的显著图进行结合，测试不同层级网络提取信息的能力，并且引入了一个类别敏感指标和元学习方法以提高对输出类的敏感度。

Apr, 2020

本研究提出了 SARFA，一种基于深度增强学习的视觉化方法，生成更加专业和相关的显著图，相比现有方法更容易解释。在棋盘游戏（如国际象棋和围棋）和 Atari 游戏（如打砖块、乒乓球和太空侵略者）的比较中，SARFA 产生的显著图比现有方法更容易解释。

Dec, 2019

通过使用 230 个合成图像对显著性模型的性能进行了基准测试，研究发现，受到谱 / 傅里叶灵感的模型在显著性测量方面表现更好，并与人类心理物理实验更加一致，提出了一种新的方法来评估显著性模型，考虑了独特的低级特征背景下的合成图像。

Oct, 2019

计算机视觉模型的决策过程（尤其是深度神经网络）的不透明性意味着这些决策无法被人类理解。因此，在过去几年中，已经提出了许多提供人理解解释的方法。本文针对图像分类开发了新的评估指标，并对常见的显著性方法在 ImageNet 上进行了基准测试。此外，还提出了一种基于心理测评概念的可靠性评估方案。

Jun, 2024