该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

Jan, 2023

研究了两种深度神经网络解释说明的主流方向，一种是基于特征的事后解释方法，另一种是自解释的神经网络模型，并生成自然语言解释。

Oct, 2020

本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的 Adversarial XAI 算法 AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使 XAI 方法输出特定解释的目标。

Nov, 2022

研究了深度学习方法面临的可解释性困境，提出了一种叫做 “深度视觉解释” 的框架，通过可视化技术来识别和暴露深度学习模型性能行为的假设，以提高模型的可解释性和可调试性，并展示了初步的可解释性应用实验结果。

Nov, 2017

该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

Feb, 2021

使用基于归因的输入抽样技术在模型的多个层面收集可视化映射并对其进行聚合，最终实现了对卷积神经网络解释的精细和完整的解释，同时提出了一种基于卷积神经网络模型的层选择策略。实验结果表明，该方法在解释准确度和视觉质量方面能够满足或超越现有方法，且稳定性良好。

Oct, 2020

我们提出了一种通过检测神经网络中的信息流来分析预测的框架，该框架使用两个指标选择神经元，这些神经元既对网络输出产生巨大影响又能激活通用特征并比较不同度量筛选的神经元集合，从而提出了一种调查卷积神经网络内部注意机制的方法。

Jul, 2017

该研究论文介绍了基于概念的解释，比如概念激活向量可以有效地描述概念，并讨论了自动提取概念的方法，展示了它们在真实世界应用中的效用。

Feb, 2022

本文提出了一种用于验证神经网络的可视化解释方法，该方法基于优化技术，通过过滤梯度来防止对抗证据。这种方法可以提供细粒度、可解释的图像细节证据，并可针对多个模型和数据集进行定性和定量评估。

Aug, 2019

本研究通过使用干预机制，利用离散变分自编码器来转移预测类别，进而可视化任何隐藏层的编码信息和对应的被干预表示来揭示深度神经网络的隐含概念，并通过评估原始表示与被干预表示之间的差异来确定可改变类别的概念，从而提高模型的可解释性。我们在 CelebA 数据集上展示了我们方法的有效性，并展示了有偏差数据的各种可视化并提供不同的干预方法来揭示和更正偏见。

Dec, 2021