Jun, 2023

自动概念抽取和概念重要性评估统一的整体方法

PDF
TL;DR提出概念为基础的方法可帮助我们解释人工神经网络的决策，介绍了一个理论框架，可以定义和澄清概念提取和重要性评估两个步骤，并尝试解决解释性中的一个关键问题：如何有效地识别以类似共享策略分类的数据点组成的簇。
发现论文，激发创造
  • 自动基于概念的解释

    提出了概念解释的原则和求解算法 ACE，能够系统性地通过可视化概念提供对深度神经网络预测的重要性的人类可解释性解释。

    Feb, 2019

  • 神经网络的以人为本的概念解释

    该研究论文介绍了基于概念的解释，比如概念激活向量可以有效地描述概念，并讨论了自动提取概念的方法，展示了它们在真实世界应用中的效用。

    Feb, 2022

  • 基于概念的模型改进方法综述

    最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。

    Mar, 2024

  • 通过概念学习先验可解释模型的框架

    本文提出一种将解释生成模块附加在基础网络之上、共同训练整个模块的自我解释深度学习模型，适用于无监督概念学习，能够生成有关概念的有意义的解释，并且在概念监督方面有一定的可塑性，具有更好的性能表现。通过在多个数据集上的实验，证明该模型比最近提出的基于概念解释的模型表现更好。

    Aug, 2021

  • CRAFT：概念递归激活分解技术实现可解释性

    本研究提出了一种名为 CRAFT 的新方法，用于识别基于概念的解释，并介绍了 3 种新的自动概念提取方法。该方法的实验表明，适当粒度的有意义概念的识别可以提供有用的信息，并且比仅强调最显著部分的归因方法的效果好。

    Nov, 2022

  • 概念解释估计应该具备不确定性意识

    用可理解的人类概念来解释模型的全局解释的不稳定性问题以及提出了一种基于不确定性的贝叶斯估计方法，可以提高概念解释的可靠性。

    Dec, 2023

  • 自注意力网络的特征重要性估计

    本文旨在探索利用基于注意力机制的神经网络对特征进行重要性排序以用于模型解释的方法，通过对十个数据集进行规模无关的特征重要性估计算法比较的研究，展示了利用自注意力网络（SAN）对特征进行排序与其他方法在高级别特征识别上的相似性，以及在某些情况下，SAN 对特征交互性的识别比现有基线方法更具优势。

    Feb, 2020

  • 关于在深度神经网络中基于概念的完整性感知解释

    本文研究深度神经网络的基于概念的可解释性，提出了一种概念完备性度量和一种概念发现方法来寻找既能够解释模型预测，又易于理解的完备概念集，并提出 ConceptSHAP 方法来为每个概念定义重要性得分，在合成和真实数据集上验证了方法的有效性。

    Oct, 2019

  • 层次语义树概念白化用于可解释的图像分类

    通过在深度模型中主动注入知识，使用语义概念的层次树规范化图像数据实例的表达方式，提高模型可解释性，改善语义概念的分离，并不会对模型的分类性能产生负面影响。

    Jul, 2023

  • 可视化的拓扑重要性：一种基于分类的方法

    通过学习得到的度量分类器和一个持久性图的点密度估计器，本研究提供了一种直观表示持久性点重要性的方法，用于驱动新的可视化，从而突出了拓扑特征在图形、三维形状和医学图像数据中的重要性。

    Sep, 2023