Apr, 2024

CoProNN: 基于概念的原型最近邻方法解释视觉模型

PDF
TL;DR该研究提出了一种通过生成基于概念的原型来解释计算机视觉模型预测的方法，该方法可以快速创建领域专家可直观理解的基于概念的解释。通过与其他基于概念的解释方法的对比，该方法在粗粒度图像分类任务上表现出很好的竞争力，并且在更具挑战性的细粒度任务上甚至可能表现更优。该方法在人机协作环境中通过定性和定量用户研究证明其有效性。
explainabilityartificial intelligencetask-specific explanationsconcept-based prototypescomputer vision
发现论文，激发创造
  • 基于视觉对应关系的解释可提高 AI 鲁棒性和人工智能团队准确性

    本文提出两个自解释图像分类器的新架构，这些分类器通过利用查询图像与样本之间的视觉对应关系，首先解释，然后预测，从而解释了人工智能（AI）预测，并且获得了更高的准确性和更有用的解释。

    Jul, 2022

  • 通过引导概念学习实现可理解的卷积神经网络

    该论文提出了一种带有附加概念层的 CNN 架构的引导学习方法，用于学习视觉特征和单词短语之间的关联，并通过优化预测准确性和特征表示的语义来学习与人类感知一致的概念，实验结果表明，所提出的模型可以在不牺牲准确性的情况下学习一致于人类感知的概念，并可将这些学习到的概念转移到具有相似概念的新对象类别中。

    Jan, 2021

  • 基于概念的模型改进方法综述

    最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。

    Mar, 2024

  • 通过原型概念解释验证深度模型决策的 (非) 常规理解

    本文提出了一个基于概念的后续解释 AI 框架，通过原型模型不仅传达了每个实例的决策策略 (局部)，而且还传达了整体的类别决策策略 (全局)，从而降低了对人类长期评估的依赖，并使模型验证成为一个直观且可解释的工具。

    Nov, 2023

  • ConceptX：潜在概念分析框架

    该研究提出了 ConceptX 人在循环框架，用于解释深度语言模型中预训练隐藏表达空间，并提供自动生成的基于语言本体论的概念注释，以表示这些模型中学习到的隐含概念，从而帮助注释人员标记模型中的偏见。

    Nov, 2022

  • 少即是多：发现简明网络解释

    提出一种新的方法，通过生成人可理解的视觉解释来增强深度神经图像分类器的可解释性，并且该方法通过同时优化三个标准：解释应该少、多样化和可理解，以自动找出区分类别的关键视觉解释。

    May, 2024

  • 一个自说明的神经架构用于可推广的概念学习

    利用自我解释的架构跨领域进行概念学习，提出新的概念显著网络、对比学习和基于原型的概念基准规范化方法来解决概念一致性和泛化能力的问题，并在四个实际数据集上展示了方法的有效性。

    May, 2024

  • 基于知识的场景分类神经元解释

    通过引入外部知识和核心概念，我们提出了一种新颖的知识感知神经元解释框架，用于解释图像场景分类模型的预测结果。我们的方法相比基线模型在解释性能上提供了更好的预测解释，并且核心概念能够有效地改善原始模型的性能。

    Jan, 2024

  • GCPV: 用于解释检查 CNN 特征空间的导向概念投影向量

    提出了一种名为 GCPV（local-to-global Guided Concept Projection Vectors）的方法，该方法通过生成局部概念向量并将其推广为全局概念向量，来解决计算机视觉卷积深度神经网络（CNN）的可解释性和调试问题。该方法在目标检测方面表现出改进的性能，并且对于低质量的概念分割标签也具有鲁棒性。通过 GCPVs，能够找到造成概念混淆的根本原因，揭示有趣的概念级别异常值，为模型调试和数据优化提供了有希望的方法。

    Nov, 2023

  • 通过概念特定的解释揭示分割和物体检测中的隐藏上下文偏差

    本文提出了后续可解释的人工智能方法 L-CRP，可以生成更细致的解释，自动识别和可视化模型在推理过程中学习、识别和使用的相关概念，并在输入空间中精确定位它们，进而揭示和验证背景特征的使用和存在，并说明对各个流行数据集的效果。

    Nov, 2022