该研究使用反事实推理来测试从显著性图中产生的假设并评估其与强化学习环境语义相对应的程度，以 Atari 游戏作为常见的深度强化学习基准来评估三种不同类型的显著性图，并发现显著性图最好视为一种探索性工具而非解释性工具。

Dec, 2019

我们提出了基于显著性引导的特征解相关方法 (SGFD)，通过样本重新加权消除观测状态空间中特征之间的相关性，以实现在视觉强化学习任务中的泛化能力。实验结果表明，SGFD 在处理任务无关和任务相关的变化方面明显优于现有方法。

Oct, 2023

本文针对 Atari 2600 游戏环境的深度强化学习智能体，通过生成显著图以及对其进行分析，揭示了强化学习智能体学习和执行策略的方式，并且在测试了普通人的行为决策时，证明了该方法的有效性。

Oct, 2017

深度强化学习在复杂控制任务中显示出了极大的潜力，然而学习策略的不可解释性限制了其在安全关键应用（如自动驾驶系统）中的应用。为了解决这些问题，本文提出了一种使用显著性地图识别代理过去观测状态序列中影响力最大的输入像素，并将该地图馈送到深度生成模型中的方法，从而实现在显著区域进行约束修改的可信 Counterfactual 示例的生成。通过多个领域的实验结果表明，该方法能够在广泛的环境和深度强化学习代理中生成更加信息丰富和可信的 Counterfactual 示例。

Apr, 2024

本文提出了一种新方法，通过添加自由午餐显著性（FLS）的注意力模块将其应用于深度学习代理在 Atari 环境中进行的训练，使网络产生注重分布。通过实验，我们发现网络的性能与基线类似，并且可以作为深度强化学习代理的可替代品。

Aug, 2019

本研究结合全局与局部解释方法，通过用户研究评估其共同和单独的贡献，其中将模拟代理程序中的重要状态转换提取为策略概述，并为用户提供注重的信息，结果表明，如果概要包括重要状态的话，人们理解代理程序的能力显著提高。尽管加入显著性地图在大多数情况下并没有显著提高性能，但确实有一些证据表明显著性地图可以帮助用户更好地理解代理程序在决策过程中依赖的信息，为未来的工作提供了建议。

May, 2020

本文提出了一种综合评估图像中 “重要” 像素的方法 SMERF，并基于该方法评估了现有 Saliency 方法。通过实验结果表明，这些 Saliency 方法有着诸多限制，并提出了发展新的 Saliency 方法的参考意见。

May, 2021

我们提出了一种名为 SCAAT 的模型无关学习方法，通过在显著性图的指导下构建对抗样本，改善了深度神经网络 (DNNs) 的可解释性，使显著性图更加精确和可靠，而不需要对模型架构进行任何修改。通过在多个 DNN 和不同图像数据集上评估生成的显著性图的质量，结果表明 SCAAT 显著提高了 DNNs 的可解释性，提供更可靠的显著性图而不损失其预测能力。

Nov, 2023

通过慢特征分析方法生成可解释的视觉数据表征，以确定环境中代理的位置和航向，并展示在导航任务中分层慢特征分析法如何优于其他特征提取器。

Feb, 2024

本文提出了一种新的输入无关的显著性地图方法，它从计算上估计模型对其输出所归属的高级特征并通过可解释的可视化展示，以更加准确和公正地解释模型的行为，同时在大规模模型中成功应用，并且通过识别受损分类器中的后门签名，展示了这种新形式显著性映射的另一个有趣的用途。

Mar, 2023