Jun, 2024

树形推理：使用层次结构解释卷积神经网络

PDF
TL;DR使用层次分割技术构建模型解释框架，提供可信和可解释的卷积神经网络 (CNN) 解释，旨在增强 xAI 的可解释性和理解神经网络的决策过程。
interpretable explanationsneural network reasoninghierarchical segmentation techniquesfaithful model explanationsxai interpretability
发现论文，激发创造
  • 使用非负概念激活向量和决策树进行基于概念的卷积神经网络模型解释

    本文通过基于概念提取的解释器训练决策树，以增加 CNN 模型的可解释性并提高解释器的保真度和性能。研究表明，Tree-ICE 在可解释性方面胜过基准，并生成更易读的模式解释。

    Nov, 2022

  • 时间序列分类中借鉴图像突出方法的 XAI

    本文提出了一种基于深度神经网络的师生架构（蒸馏模型），用于在时间序列分类任务中提供可解释性。该方法通过将时间序列转换为 2D 图形，并应用图像高亮方法（如 LIME 和 GradCam），使预测结果可解释。同时，该方法在与基准模型竞争时提供了更高的准确性，代价是增加了训练时间。

    Nov, 2023

  • DSEG-LIME -- 提升图像解释的分层数据驱动分割

    DSEG-LIME 通过数据驱动的分割方式，以及分层分割程序，提高了解释性，大部分的 XAI 评估指标都表现出了 DSEG 的优势，与人工识别的概念更加契合。

    Mar, 2024

  • 扩展基于 CAM 的遥感图像分割的可解释人工智能方法

    通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

    Oct, 2023

  • 从 CNN 中提取可解释的基于概念的决策树

    该论文提出了一种从 CNN 隐藏层激活中推断标记的概念数据并通过浅层决策树解释这些概念的方法，这可以提供关于 CNN 模型认为重要的概念以及这些概念如何相互作用的信息，实验表明提取的决策树在树深度较低时能够准确地代表原始 CNN 的分类，从而有助于人们理解有区分力的概念。

    Jun, 2019

  • 利用决策树解释卷积神经网络

    本文介绍了一种利用决策树定量解释预训练卷积神经网络的预测理由的方法，通过分解 CNN 高卷积层的特征表示为对象部件的基本概念的方式，使决策树告诉人们哪些对象部分激活了哪些滤波器以及它们对预测得分的贡献有多大。

    Feb, 2018

  • 层次语义树概念白化用于可解释的图像分类

    通过在深度模型中主动注入知识，使用语义概念的层次树规范化图像数据实例的表达方式，提高模型可解释性，改善语义概念的分离，并不会对模型的分类性能产生负面影响。

    Jul, 2023

  • 神经文本分类的分层解释

    本文提出了一种新的 Hierarchical INTerpretable 神经文本分类器 Hint，它可以自动生成按标签关联的话题的模型预测解释，实验结果表明 Hint 方法在文本分类方面不仅与现有的最先进的文本分类器相当，而且生成的解释比其他可解释的神经文本分类器更符合模型预测，并且更易于被人类理解。

    Feb, 2022

  • 基于卷积神经网络的生物特征验证的可解释模型无关算法

    本文采用 Local Interpretable Model-Agnostic Explanations（LIME）人工智能方法，在生物识别验证环境下进行了适应性改进，通过余弦相似度来实现可解释性，并且展示了针对移动网络和 ResNet50 的人脸生物识别的两种 CNN 模型。

    Jul, 2023

  • GraphLIME: 图神经网络的本地可解释模型解释

    本文提出了 GraphLIME，一种用于解释图结构数据的本地可解释模型说明框架，具有高度的解释度和描述性，采用非线性特征选择方法，通过对节点的 N - 跳邻居建立非线性可解释模型，计算 K 个最具代表性特征作为其预测解释。

    Jan, 2020