本文探究了卷积神经网络 CNN 中通过对输入进行概念识别达到决策的关系，通过考察场景识别 CNN 对 ADE20k 数据集的训练结果，找到并评分给定输入概念的最小分布式表示强度，证实了概念识别对 CNN 决策具有影响力，经常出现在少数场景中的理解程度高的概念表明了正确决策，但认识到许多场景中共同的概念可能会误导 CNN。

Nov, 2017

本文旨在探讨在医疗临床记事本上提取关系的问题。作者提出使用卷积神经网络自动学习特征，减少对人工特征工程的依赖，并针对 i2b2-2010 临床关系提取挑战数据集进行了实证研究。结果表明，卷积神经网络可以是在临床文本中提取关系的良好模型，而且不需要专家们定义的高质量特征。

Jun, 2016

本文提出了一种称为 ReFF 的方法，通过解释输出来探测与任务相关的特征并规范卷积神经网络，以应对训练和测试数据集分布不同的情况，并在测试数据上提高了准确度。

Feb, 2022

提出了 CREX 方法，通过合理利用证据材料、避免数据依赖性偏见、依靠机器辅助生成、并配合专家审查，增强深度学习模型的可信度，相关实验也显示 CREX 在增加深度学习模型可信度方面具有显著效果。

Aug, 2019

本文提出了后续可解释的人工智能方法 L-CRP，可以生成更细致的解释，自动识别和可视化模型在推理过程中学习、识别和使用的相关概念，并在输入空间中精确定位它们，进而揭示和验证背景特征的使用和存在，并说明对各个流行数据集的效果。

Nov, 2022

本文提出了一种基于卷积神经网络的分类方法，通过采用新的成对排名损失函数来降低人工类的影响，在 SemEval-2010 任务 8 数据集上取得了 84.1 的准确度，超过了使用 softmax 分类器的方法，证明了仅使用单词嵌入作为输入功能就足以实现最先进的结果。

Apr, 2015

通过 CNN 激活图像素聚合的表示，提出了一种新型的自动概念提取和定位方法，并基于图像的像素注释，引入了一种验证过程来减少人工干预，从而超越了现有方法。

Jun, 2022

本文通过基于概念提取的解释器训练决策树，以增加 CNN 模型的可解释性并提高解释器的保真度和性能。研究表明，Tree-ICE 在可解释性方面胜过基准，并生成更易读的模式解释。

Nov, 2022

该研究论文介绍了基于概念的解释，比如概念激活向量可以有效地描述概念，并讨论了自动提取概念的方法，展示了它们在真实世界应用中的效用。

Feb, 2022

该论文介绍了概念相关传播 (CRP) 方法，该方法结合了本地和全局 XAI 的观点，从而允许回答单个预测的 “何时” 和 “何物” 的问题，而无需施加其他限制。作者进一步介绍了相关性最大化的原则，以找到编码概念的有用代表性示例。作者演示了该方法在各种不同的设置中的能力，展示了概念相关传播和相关性最大化如何通过概念地图、概念组合分析和概念子空间的量化调查及其在细粒度决策中的作用，提供更人性化的解释和深入的模型表示和推理见解。

Jun, 2022