该论文提出了一种基于 PGD 算法的 Deep Generalized Unfolding Network（DGUNet）进行图像修复，通过在梯度下降步骤中集成梯度估计策略和设计跨不同 PGD 迭代中 Proximal mapping 的中间信息通路，实现对复杂和现实世界图像的修复，同时保持了透明度和可解释性。实验结果表明，该方法在各种图像修复任务中的性能、可解释性和通用性均优于现有方法。

Apr, 2022

本文提出一种基于展开潜在结构的模型可解释性解释方法并以物体检测为案例运用了有向无环图模型探索 ROI 区域中潜在的部件结构并自动生成部件组合，最后在 PASCAL VOC 2007 和 2012 数据集上进行验证，结果表明其方法能够不影响性能的情况下展现有希望的潜在结构。

Nov, 2017

本文提出了一种结合梯度和属性方法的算法来提供逐类的可解释性，该算法在纠正显著特征的同时，通过反向投影来提供每像素的局部影响，并成功地证明了在各种基准测试上的优越性能，包括用于梯度方法评估的基准测试以及主要用于评估属性方法的基准测试，此外，本文还成功地证明了自监督方法可以学习语义信息。

Dec, 2020

本文提出了一种基于指导特征反演框架的深度神经网络解释模型，可以确定神经网络中每个特征的贡献并提供决策过程的洞见，通过与 DNN 模型输出层目标类别的神经元进一步交互，我们强制解释结果具有类别区别能力，实验证明了我们提出的框架在提供 DNN 预测的类别判别性解释方面的有效性。

Mar, 2018

引入聚合上下文分解的方法来解释 DNN 预测结果。该方法通过产生输入特征的层次聚类以及每个聚类对于最终预测的贡献，实现了对 DNN 的预测结果进行解释，有效诊断不正确的预测和识别数据集的偏倚。同时人体实验也表明，ACD 能够使用户较好地识别两个 DNN 中更准确的那一个，并更加信任 DNN 的输出。

Jun, 2018

通过引入一种后置方法，我们解释了卷积神经网络的整个特征提取过程，并包含了一组通过众包活动和自然语言处理技术提取并处理的文本标签，在多幅图像中聚合标签以生成全局解释。

May, 2024

本文提出了一种用于验证神经网络的可视化解释方法，该方法基于优化技术，通过过滤梯度来防止对抗证据。这种方法可以提供细粒度、可解释的图像细节证据，并可针对多个模型和数据集进行定性和定量评估。

Aug, 2019

我们介绍了 Quantified Uncertainty Counterfactual Explanations (QUCE) 方法，以减轻路径不确定性，不仅在提供解释时量化不确定性，而且生成更加确定的反事实例子。

Feb, 2024

本研究针对深度学习模型的解释提出了一种方法，通过梯度获取与误分类样本更相关的确信度估计和提供视觉注意力图，特别是在视觉问答任务中，该方法采用现代概率深度学习方法，并进一步通过这些估计梯度进行改进，得到具有人类注意区域相关性的先进的注意力图，从而提供了更好的解释能力。我们在所有标准基准测试上提供了详细的实证分析和与现有方法的比较。

Aug, 2019

该研究提出了一种新颖的关注门（AG）模型，用于医学图像处理，提高了 U-Net 模型的预测准确性和计算效率。

Apr, 2018