工业 4.0 中可扩展的概念抽取
通过 CNN 激活图像素聚合的表示，提出了一种新型的自动概念提取和定位方法，并基于图像的像素注释，引入了一种验证过程来减少人工干预，从而超越了现有方法。
Jun, 2022
针对卷积神经网络在工业质量控制等关键应用中出现意外行为的问题，该研究提出了一种基于 Scale-Preserving Automatic Concept Extraction (SPACE) 算法的概念提取技术，并对其在工业质量控制领域的性能进行了评估，验证了其超越其他方法并提供 CNNs 决策机制的可行见解。
Aug, 2023
由于对有效安全措施的需求增加以及摄像头在商业产品中的集成，今天产生了大量的视觉数据。执法机构正在检查图像和视频，以查找激进化、恐怖组织的宣传和暗网市场上的非法产品。本文通过深度卷积神经网络（CNN）的视觉概念检测来理解图像内容，并提出了五个贡献，包括图像的地理定位、细粒度概念分析、人员属性识别、基于主动学习的直观图像注释工具和查询扩展。
May, 2024
该论文提出了一种带有附加概念层的 CNN 架构的引导学习方法，用于学习视觉特征和单词短语之间的关联，并通过优化预测准确性和特征表示的语义来学习与人类感知一致的概念，实验结果表明，所提出的模型可以在不牺牲准确性的情况下学习一致于人类感知的概念，并可将这些学习到的概念转移到具有相似概念的新对象类别中。
Jan, 2021
本文介绍了可解释人工智能（XAI）中的概念分析（CA）方法及其在深度神经网络内的应用，提供了一般性的 CA 定义和分类，总结了 30 多种相关方法和 15 个数据集，同时指出了未来研究方向和挑战。
Mar, 2022
本篇论文提出了一种基于图像分类器的理解性决策支持系统 (DSS) -- 概念定位地图 (CLMs)，它能够增强分类器的可靠性并提供合理的预测解释。通过在训练的图像分类器的潜在空间中定位相应的显著区域，CLMs 可以提供分类器学习和关注人类在图像识别过程中所注重的相似概念的定性和定量保证。研究人员通过一项新的合成数据集 SCDB 和一个现实世界数据集 CelebA 对其进行了评估，并获得了较高的定位召回率，证明了 CLMs 在实践中缓解 DSS 受重视度方面具有巨大的潜力。
May, 2020
黑盒深度神经网络 (DNNs) 的质量保证变得越来越重要，特别是在自动驾驶等安全关键领域。通过将全局概念编码与单个网络输入的局部处理联系起来，我们提出了一个名为全局到局部概念归因 (glCA) 的框架，利用局部可解释人工智能 (xAI) 的方法来测试 DNNs 在预定义的语义概念上的局部性。该方法可以将局部、事后解释与在模型的潜在空间中以线性方向编码的预定义语义概念相条件联结。关于全局概念使用的像素精确评分有助于理解模型处理所选概念单个数据点的方式。我们的方法具有全面覆盖语义概念的模型内部编码和定位相关概念相关信息的优势。结果显示在局部感知和使用个别全局概念编码方面存在重大差异，并需要进一步研究以获得全面的语义概念编码。
May, 2024
本论文提出 CME 框架，用于通过基于概念的提取模型分析 DNN 模型，通过 dSprites 和 Caltech UCSD Birds 的两个案例研究表明，CME 可用于分析 DNN 模型学习的概念信息，如何使用这些概念信息来预测输出标签，识别关键的概念信息，进一步提高 DNN 的预测性能，准确率可提高 14％以上，仅使用可用概念的 30％。
Oct, 2020
最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。
Mar, 2024