Apr, 2023

可解释的神经符号概念推理

PDF
TL;DR提出可解释的 Deep Concept Reasoner（DCR）模型，通过对概念嵌入的语义逻辑规则构建实现任务预测，从而在解释过程中提高了模型的可靠性和人类可信度。
deep learningconcept-based modelsinterpretable modelssemanticneural networks
发现论文，激发创造
  • 少即是多：发现简明网络解释

    提出一种新的方法，通过生成人可理解的视觉解释来增强深度神经图像分类器的可解释性，并且该方法通过同时优化三个标准：解释应该少、多样化和可理解，以自动找出区分类别的关键视觉解释。

    May, 2024

  • 利用语义信息提高深度神经网络的可解释性

    本文提出了一种新颖的技术，通过利用人类描述中蕴含的丰富语义信息来提高深度神经网络的可解释性，特别是在视频字幕任务中，通过一个可解释损失将人类描述中的一组语义相关主题集成到模型中，并提出了一种预测差异最大化算法来解释每个神经元的学习特征。实验结果表明这种方法在视频字幕和视频动作识别方面非常有效。

    Mar, 2017

  • 基于关系概念的模型

    我们提出了一种解决关系领域中可解释深度学习模型设计问题的方法：关系概念模型（Relational Concept-Based Models）。实验结果表明，关系概念模型与现有的关系黑匣子模型在泛化性能上相匹配，并支持生成定量概念解释，有效地响应测试时干预，并适应多种严苛环境，包括分布不均、训练数据有限和概念监督不足。

    Aug, 2023

  • 从神经网络中学习准确且可解释的决策规则集

    本文提出了一种新的范式，使用一个可解释的二层神经网络学习一组独立的逻辑规则作为分类的模型，并提出一种基于稀疏性的规则得出算法，相比其他学习算法和黑匣子模型，该方法可以在分类准确性和简单性之间取得更好的平衡。

    Mar, 2021

  • 一种神经分而治之的推理框架，用于从语言复杂的文本中检索图像

    本文提出了一种名为 NDCR 的端到端的神经分治推理框架，将语言复杂的文本视为由多个简单命题句组成的复合命题文本，并包含三个主要组件：命题生成器、基于预训练 VLM 的视觉语言交互器以及神经符号推理器，该框架在复杂的图像 - 文本推理问题中显著提高了性能。

    May, 2023

  • 正确的概念：通过与其解释交互来修订神经符号概念

    该研究提出了一种基于神经符号场景表征的解释交互学习方法，它能够在语义层面上对模型进行干预，通过对物体的组合性解释来获得更好的效果。

    Nov, 2020

  • 基于概念的模型改进方法综述

    最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。

    Mar, 2024

  • 无监督条件下理解深度神经网络中概念的分布表示

    本文提出了一种新的无监督方法，通过选择主要的神经元子集来发现概念的分布式表示，该方法可以用于识别数据中的未标记子类，并检测错误分类的原因，同时还揭示了不同层次的深度学习模型内部机制的深入洞察。

    Dec, 2023

  • 深度关系学习建模内容与语境

    本文介绍 DRaiL，一个开源的声明式框架，用于指定深度关系模型，旨在支持各种自然语言处理场景，并支持与表达性语言编码器的轻松集成，以及研究表示、推理和学习之间的相互作用。

    Oct, 2020

  • 概念嵌入分析：综述

    本文介绍了可解释人工智能（XAI）中的概念分析（CA）方法及其在深度神经网络内的应用，提供了一般性的 CA 定义和分类，总结了 30 多种相关方法和 15 个数据集，同时指出了未来研究方向和挑战。

    Mar, 2022