本文提出了后续可解释的人工智能方法 L-CRP，可以生成更细致的解释，自动识别和可视化模型在推理过程中学习、识别和使用的相关概念，并在输入空间中精确定位它们，进而揭示和验证背景特征的使用和存在，并说明对各个流行数据集的效果。

Nov, 2022

提出了概念解释的原则和求解算法 ACE，能够系统性地通过可视化概念提供对深度神经网络预测的重要性的人类可解释性解释。

Feb, 2019

提出概念为基础的方法可帮助我们解释人工神经网络的决策，介绍了一个理论框架，可以定义和澄清概念提取和重要性评估两个步骤，并尝试解决解释性中的一个关键问题：如何有效地识别以类似共享策略分类的数据点组成的簇。

Jun, 2023

该研究提出了一种基于 Robust Concept Activation Vectors 的诠释方法，用于评估图像分类模型的可靠性和模型是否存在系统偏差。该方法关注语义概念，如纹理、颜色和性别等，通过梯度上升来评估模型对给定概念的敏感性，并构建了两个基准数据集来评估本方法的实际可用性和科学用途。

Apr, 2021

该论文介绍了概念相关传播 (CRP) 方法，该方法结合了本地和全局 XAI 的观点，从而允许回答单个预测的 “何时” 和 “何物” 的问题，而无需施加其他限制。作者进一步介绍了相关性最大化的原则，以找到编码概念的有用代表性示例。作者演示了该方法在各种不同的设置中的能力，展示了概念相关传播和相关性最大化如何通过概念地图、概念组合分析和概念子空间的量化调查及其在细粒度决策中的作用，提供更人性化的解释和深入的模型表示和推理见解。

Jun, 2022

本文提出一种新的概念激活区（CAR）的建立方式，通过采用核技巧和支持向量分类器来实现 CAR 的建立，以实现全局的概念解释和局部的概念特征重要性，经实证证明 CAR 可以更准确地描述 DNN 的潜在空间中的概念分布，并且可以用于 DNN 自行学习已知的科学概念，例如前列腺癌分级系统

Sep, 2022

该研究证明了基于概念的解释方法的漏洞性能够受到对抗性攻击的影响，需要为机器学习管道和模型解释过程提供安全保障。

Oct, 2021

本文提出一种将解释生成模块附加在基础网络之上、共同训练整个模块的自我解释深度学习模型，适用于无监督概念学习，能够生成有关概念的有意义的解释，并且在概念监督方面有一定的可塑性，具有更好的性能表现。通过在多个数据集上的实验，证明该模型比最近提出的基于概念解释的模型表现更好。

Aug, 2021

该研究论文介绍了基于概念的解释，比如概念激活向量可以有效地描述概念，并讨论了自动提取概念的方法，展示了它们在真实世界应用中的效用。

Feb, 2022

本文提出了一种结合梯度和属性方法的算法来提供逐类的可解释性，该算法在纠正显著特征的同时，通过反向投影来提供每像素的局部影响，并成功地证明了在各种基准测试上的优越性能，包括用于梯度方法评估的基准测试以及主要用于评估属性方法的基准测试，此外，本文还成功地证明了自监督方法可以学习语义信息。

Dec, 2020