本文分析了8种不同的评估指标及其属性，通过系统性实验和计算可视化，为显著性评分的可解释性和评估的透明度增加了解释性。建立在指标属性和特性之上，我们针对特定应用和假设为度量选择提供了建议。

Apr, 2016

本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

Oct, 2018

探索了深度度量学习及其应用的视觉解释。通过分解最终激活结果的方式提高了模型的解释性，并给出了点对点激活强度模型来揭示不同区域之间的关系。该模型可以直接用于各种深度度量学习应用，有助于理解模型，同时在交互检索和跨视图模式发现两个潜在应用方面具有显著效果。

Sep, 2019

本研究提出了一种针对深度卷积神经网络的可解释性AI显著性图方法，其比流行的高分辨率梯度方法更为高效，并且在精度上也与其相当或更好。通过使用Layer Ordered Visualization of Information，展示了该方法比其他显著性图方法提供更有趣的网络规模内比例贡献比较。此外，该方法在资源有限的平台上如机器人、手机、低成本工业设备、天文和卫星图像等方面是可行的。

Nov, 2019

本研究探索了现有的用于评估显著图质量（即“保真度”）的指标，并发现当前文献中这些指标的计算方式缺乏一致性，且可重复性差，说明用这些指标生成的显著图质量排名可能不可信。

Nov, 2019

本论文基于对AUC属性的重新思考，提出了基于远邻采样的Farthest-Neighbor AUC（FN-AUC）测量标准以及一种测量采样质量的策略，进而解决空间偏差和输出量化不存在度数时带来的问题，并提供了一种用于克服极少数值度（输出量化）的全局平滑函数。

Feb, 2020

本文基于对解释人工智能（XAI）的准确定义和公正衡量标准缺失的讨论，提出了一种广泛的实验研究，重点关注解释方法的忠实度、本地化、假阳性、敏感度检查和稳定性。实验结果表明，在当前所有方法中，梯度加权类激活映射（Grad-CAM）和随机输入抽样解释（RISE）在大多数指标上表现良好。另外，本文还提出了一种筛选指标的方法，以诊断模型分类基础，并探讨了当前指标所忽略的测量因素。

Dec, 2020

我们提出了一套利用视觉先验来有效评估显著性方法在图像分类任务中性能的度量标准。通过我们的度量标准，我们发现，虽然人们认为显著性方法与架构无关，但大多数方法更能解释基于变形器的模型而不是基于卷积的模型。此外，我们发现GradCAM在COSE方面优于其他方法，但在细粒度数据集方面存在不足。一致性和敏感性之间的二元性允许从不同的角度分析显著性方法。最终，我们发现平衡这两个度量标准对于显示模型行为是重要的。

Sep, 2023

计算机视觉模型的决策过程（尤其是深度神经网络）的不透明性意味着这些决策无法被人类理解。因此，在过去几年中，已经提出了许多提供人理解解释的方法。本文针对图像分类开发了新的评估指标，并对常见的显著性方法在ImageNet上进行了基准测试。此外，还提出了一种基于心理测评概念的可靠性评估方案。

Jun, 2024

这篇论文提出了一个基于视觉显著性地图的人脸识别解释框架，其中包括定义了解释方法、提出了新的模型-不可知解释方法CorrRISE，并提供了一种新的评估方法来比较不同解释方法的性能。实验证明，CorrRISE能够生成深入有洞察力的显著性地图，并在相似性地图方面表现出卓越的性能。

Jul, 2024