该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

Jan, 2023

本文提出了一种实用的方法，通过使用最近的理论并近似 Shapley 特征重要性值解释 DNN 目标检测器所做的决策，该方法具有与最先进方法可比的保真度和足够的计算效率，可以处理大型数据集。我们在质量和数量方面展示了所提出的解释方法可用于查找导致 DNN 目标检测失败的图像特征。开发的软件工具结合到 “解释到修复”（E2X）框架中，其计算效率比先前的方法高出一个数量级，可以使用图形处理单元（GPUs）进行集群处理。最后，我们提出了 E2X 框架的一个潜在扩展，即可以将发现丢失的特征添加到训练数据集中，以克服模型重新训练后的失败。

Nov, 2018

本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的 Adversarial XAI 算法 AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使 XAI 方法输出特定解释的目标。

Nov, 2022

该研究旨在解释深度神经网络的行为特性，作者通过使用基于公理的影响测量方法来识别对感兴趣的数量和分布具有高影响力的神经元，并解释这些神经元所代表的概念。通过在 ImageNet 数据集上测试，作者证明了影响导向的解释方法具有将信仰术语的影响概念推广到更多实例的能力，可以提取网络中关于类别的核心信息，可以分离网络用于做出决策和区分相关类别所使用的单个特征。

Feb, 2018

通过对深度神经网络的局部解释方法进行研究，发现具有随机初始化权重的 DNN 与具有学习权重的 DNN 的解释在视觉和数量上都很相似，可能是因为较低层次的特征被 DNN 的结构所主导，这对学习到的表示具有极大的影响。

Oct, 2018

AI 模型的可解释性通常会因降低准确性而受到质疑。我们开发了一种训练策略，不仅提高了目标分类方案的解释性，同时并未降低准确性，实现方式是对决策网络作出决策的可视证据进行区域定位，其表示方法为表征哪些像素对网络决策的贡献最大的显著性图。我们的训练策略通过使模型集中于直接对应于地面目标的图像区域的反馈，在自动和人工指标的量化中量化可解释性，并提出了可解释性作为弥合不同域之间视觉 - 语义差距的手段。我们证明，这种方法不仅提高到新领域的泛化性能，而且不会影响在原始领域上的性能。

Mar, 2020

本文提出了一种用于验证神经网络的可视化解释方法，该方法基于优化技术，通过过滤梯度来防止对抗证据。这种方法可以提供细粒度、可解释的图像细节证据，并可针对多个模型和数据集进行定性和定量评估。

Aug, 2019

该研究提出了一种使用新方法训练的深度超网络来生成可解释的线性模型的方法，以保留黑匣子深度网络的准确性并提供自由的可解释性，而需要与黑匣子深度模型相同的运行时和内存资源，实现了实用性，实验结果表明，该可解释的深层网络在表格数据上与最先进的分类器一样准确，且在实际预测中也具有与最先进的解释技术相当的解释能力。

May, 2023

本研究提出了一种理论框架和三种不同技术来提高对解释的稳健性。通过训练方法，激活函数的平滑以及网络 Hessian 的最小化，实现了对提高模型的抗干扰能力。实验结果证实了这些方法的有效性。

Dec, 2020

通过统一的流程对神经元解释方法进行了首次的鲁棒性分析，揭示在探测数据中添加随机噪声和设计良好的干扰可以显著破坏这些解释，引发对神经元解释方法在现实应用中的安全和公平性的关切。

Oct, 2023