该论文介绍了概念相关传播 (CRP) 方法，该方法结合了本地和全局 XAI 的观点，从而允许回答单个预测的 “何时” 和 “何物” 的问题，而无需施加其他限制。作者进一步介绍了相关性最大化的原则，以找到编码概念的有用代表性示例。作者演示了该方法在各种不同的设置中的能力，展示了概念相关传播和相关性最大化如何通过概念地图、概念组合分析和概念子空间的量化调查及其在细粒度决策中的作用，提供更人性化的解释和深入的模型表示和推理见解。

Jun, 2022

本研究提出了一种名为 CRAFT 的新方法，用于识别基于概念的解释，并介绍了 3 种新的自动概念提取方法。该方法的实验表明，适当粒度的有意义概念的识别可以提供有用的信息，并且比仅强调最显著部分的归因方法的效果好。

Nov, 2022

该研究提出可识别地探索嵌入空间的概念，是在没有人类标签的情况下，通过搜索训练的嵌入空间中可解释的概念，比如物体的形状或颜色来提供后续的决策解释。通过展示 PCA 和 ICA 能够恢复非高斯分布的独立概念，再提出两种基于图像生成模型可组合性的方法来恢复相关概念，该研究提供了没有人类标签可靠概念发现的坚实基础。

Jun, 2022

本文提出一种将解释生成模块附加在基础网络之上、共同训练整个模块的自我解释深度学习模型，适用于无监督概念学习，能够生成有关概念的有意义的解释，并且在概念监督方面有一定的可塑性，具有更好的性能表现。通过在多个数据集上的实验，证明该模型比最近提出的基于概念解释的模型表现更好。

Aug, 2021

通过引入潜在概念归因方法（LACOAT），该研究针对深度学习模型的预测提供了基于潜在概念的解释，解决了由于词语离散性和缺乏语境信息而导致的以往解释的不充分问题。

Apr, 2024

本文提出了一个完整的框架，将基于概念的解释性方法扩展到 NLP 领域， 提出了一种后期解释性方法，从预训练模型的隐藏层激活中提取具有预测高水平特征（概念），优化具有高影响力的特征的存在，设立了多种评估指标。在真实和合成任务上的广泛实验表明，与基线相比，我们的方法在预测影响、可用性和忠实度方面都取得了卓越的结果。

May, 2023

人工智能的解释方法对理解深度学习中的决策过程具有重要意义，通过研究对比了三种解释方法的可解释性，结果显示这些方法虽然强调的区域各不相同，但都能提供人类几乎相等的深度理解，进一步增强了这些方法在提升人工智能透明度方面的价值。

Oct, 2023

提出了两种通用算法（潜在和超像素基础），可以从测试图像中分离出多个清晰的特征部分，并将其与训练数据中的解释性案例联系起来，通过精心设计的用户研究验证了其有效性，结果表明所提出的方法可以适当调整用户对 ImageNet 数据集中模糊分类的正确性感觉，而仅显示解释而不突出特征时无法实现该效果。

Nov, 2023

提出了一种名为 GCPV（local-to-global Guided Concept Projection Vectors）的方法，该方法通过生成局部概念向量并将其推广为全局概念向量，来解决计算机视觉卷积深度神经网络（CNN）的可解释性和调试问题。该方法在目标检测方面表现出改进的性能，并且对于低质量的概念分割标签也具有鲁棒性。通过 GCPVs，能够找到造成概念混淆的根本原因，揭示有趣的概念级别异常值，为模型调试和数据优化提供了有希望的方法。

Nov, 2023

黑盒深度神经网络 (DNNs) 的质量保证变得越来越重要，特别是在自动驾驶等安全关键领域。通过将全局概念编码与单个网络输入的局部处理联系起来，我们提出了一个名为全局到局部概念归因 (glCA) 的框架，利用局部可解释人工智能 (xAI) 的方法来测试 DNNs 在预定义的语义概念上的局部性。该方法可以将局部、事后解释与在模型的潜在空间中以线性方向编码的预定义语义概念相条件联结。关于全局概念使用的像素精确评分有助于理解模型处理所选概念单个数据点的方式。我们的方法具有全面覆盖语义概念的模型内部编码和定位相关概念相关信息的优势。结果显示在局部感知和使用个别全局概念编码方面存在重大差异，并需要进一步研究以获得全面的语义概念编码。

May, 2024