本论文提出了一种新的双替代可解释性框架，用于解释任何基于 CNN 的图像分类器所做的决策，该框架不仅提取出潜在特征并把它们与已知 “上下文” 特征进行对齐，还形成了语义上有意义的概念，用于提取描述 “感知” 数据生成过程的因果图。

Jul, 2022

该研究论文介绍了基于概念的解释，比如概念激活向量可以有效地描述概念，并讨论了自动提取概念的方法，展示了它们在真实世界应用中的效用。

Feb, 2022

AI 模型的可解释性通常会因降低准确性而受到质疑。我们开发了一种训练策略，不仅提高了目标分类方案的解释性，同时并未降低准确性，实现方式是对决策网络作出决策的可视证据进行区域定位，其表示方法为表征哪些像素对网络决策的贡献最大的显著性图。我们的训练策略通过使模型集中于直接对应于地面目标的图像区域的反馈，在自动和人工指标的量化中量化可解释性，并提出了可解释性作为弥合不同域之间视觉 - 语义差距的手段。我们证明，这种方法不仅提高到新领域的泛化性能，而且不会影响在原始领域上的性能。

Mar, 2020

用可理解的人类概念来解释模型的全局解释的不稳定性问题以及提出了一种基于不确定性的贝叶斯估计方法，可以提高概念解释的可靠性。

Dec, 2023

黑盒深度神经网络 (DNNs) 的质量保证变得越来越重要，特别是在自动驾驶等安全关键领域。通过将全局概念编码与单个网络输入的局部处理联系起来，我们提出了一个名为全局到局部概念归因 (glCA) 的框架，利用局部可解释人工智能 (xAI) 的方法来测试 DNNs 在预定义的语义概念上的局部性。该方法可以将局部、事后解释与在模型的潜在空间中以线性方向编码的预定义语义概念相条件联结。关于全局概念使用的像素精确评分有助于理解模型处理所选概念单个数据点的方式。我们的方法具有全面覆盖语义概念的模型内部编码和定位相关概念相关信息的优势。结果显示在局部感知和使用个别全局概念编码方面存在重大差异，并需要进一步研究以获得全面的语义概念编码。

May, 2024

最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。

Mar, 2024

提出了概念解释的原则和求解算法 ACE，能够系统性地通过可视化概念提供对深度神经网络预测的重要性的人类可解释性解释。

Feb, 2019

该论文介绍了概念相关传播 (CRP) 方法，该方法结合了本地和全局 XAI 的观点，从而允许回答单个预测的 “何时” 和 “何物” 的问题，而无需施加其他限制。作者进一步介绍了相关性最大化的原则，以找到编码概念的有用代表性示例。作者演示了该方法在各种不同的设置中的能力，展示了概念相关传播和相关性最大化如何通过概念地图、概念组合分析和概念子空间的量化调查及其在细粒度决策中的作用，提供更人性化的解释和深入的模型表示和推理见解。

Jun, 2022

本篇论文提出了一种基于图像分类器的理解性决策支持系统 (DSS) -- 概念定位地图 (CLMs)，它能够增强分类器的可靠性并提供合理的预测解释。通过在训练的图像分类器的潜在空间中定位相应的显著区域，CLMs 可以提供分类器学习和关注人类在图像识别过程中所注重的相似概念的定性和定量保证。研究人员通过一项新的合成数据集 SCDB 和一个现实世界数据集 CelebA 对其进行了评估，并获得了较高的定位召回率，证明了 CLMs 在实践中缓解 DSS 受重视度方面具有巨大的潜力。

May, 2020

本文提出一种将解释生成模块附加在基础网络之上、共同训练整个模块的自我解释深度学习模型，适用于无监督概念学习，能够生成有关概念的有意义的解释，并且在概念监督方面有一定的可塑性，具有更好的性能表现。通过在多个数据集上的实验，证明该模型比最近提出的基于概念解释的模型表现更好。

Aug, 2021