Oct, 2020

现在你看到我了（CME）：基于概念的模型提取

PDF
TL;DR本论文提出 CME 框架，用于通过基于概念的提取模型分析 DNN 模型，通过 dSprites 和 Caltech UCSD Birds 的两个案例研究表明，CME 可用于分析 DNN 模型学习的概念信息，如何使用这些概念信息来预测输出标签，识别关键的概念信息，进一步提高 DNN 的预测性能，准确率可提高 14％以上，仅使用可用概念的 30％。
发现论文，激发创造
  • 神经核条件均值嵌入

    本论文介绍了一种将深度学习与核条件均值嵌入相结合的新方法，解决了核条件均值嵌入在可扩展性和表达能力方面的挑战，并在条件密度估计和强化学习中达到了竞争性能。

    Mar, 2024

  • 理解多模态深度神经网络：概念选择视角

    通过两阶段的概念选择模型（CSM），本研究在观察到概念的长尾分布的基础上，提出了一种无需引入人为先验的核心概念挖掘方法，实验表明该方法在解释性和理解性方面可与黑盒模型相媲美。

    Apr, 2024

  • 工业 4.0 中可扩展的概念抽取

    本文研究并应用概念提取技术到工业 4.0 场景中，提出了一种新颖的计算概念重要性的过程，可以在工业中帮助理解卷积神经网络（CNNs）的预测过程，成功地从工业案例中提取出与每个任务相关的概念。

    Jun, 2023

  • 少即是多：发现简明网络解释

    提出一种新的方法，通过生成人可理解的视觉解释来增强深度神经图像分类器的可解释性，并且该方法通过同时优化三个标准：解释应该少、多样化和可理解，以自动找出区分类别的关键视觉解释。

    May, 2024

  • 关于在深度神经网络中基于概念的完整性感知解释

    本文研究深度神经网络的基于概念的可解释性，提出了一种概念完备性度量和一种概念发现方法来寻找既能够解释模型预测，又易于理解的完备概念集，并提出 ConceptSHAP 方法来为每个概念定义重要性得分，在合成和真实数据集上验证了方法的有效性。

    Oct, 2019

  • 基于医学概念的图神经网络的认知解释器

    本研究提出一种基于医学概念的可解释卷积神经网络框架，可用于识别超声标准平面，并构建关键医学概念之间的关系，从医生的认知角度解释，并在实验中取得了实质性的解释性能提升。

    Jan, 2022

  • 基于概念的模型改进方法综述

    最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。

    Mar, 2024

  • 自动概念嵌入模型 (ACEM): 无需训练时间概念，无问题！

    神经网络的可解释性和解释能力在特别是在安全关键领域和提供社会解释权方面不断增加。定概念解释在线合人类推理的方式上效果良好，是一种很好的解释模型的方法。概念嵌入模型是一种基于概念的解释架构，已经证明在解释能力和性能之间取得了平衡。然而，它们存在一个关键限制 -- 需要为所有训练数据提供概念注释。针对这一问题，我们提出了自动概念嵌入模型（ACEMs），可以自动学习概念注释。

    Sep, 2023

  • 概念嵌入分析：综述

    本文介绍了可解释人工智能（XAI）中的概念分析（CA）方法及其在深度神经网络内的应用，提供了一般性的 CA 定义和分类，总结了 30 多种相关方法和 15 个数据集，同时指出了未来研究方向和挑战。

    Mar, 2022

  • 使用非负概念激活向量和决策树进行基于概念的卷积神经网络模型解释

    本文通过基于概念提取的解释器训练决策树，以增加 CNN 模型的可解释性并提高解释器的保真度和性能。研究表明，Tree-ICE 在可解释性方面胜过基准，并生成更易读的模式解释。

    Nov, 2022