AAAIAug, 2017

通过解释图解释 CNN 知识

PDF
TL;DR本文提出了一种简单而高效的方法，通过自动区分不同的部分模式从每个卷积滤波器中解开卷积神经网络内隐藏的知识层次结构，并构建了一个解释性图形模型，该模型通过无监督学习的方法进行了预训练，该图表现出不同图像中相同的物体部分，并且通过转移图形中的部分模式到部分定位任务中，其性能显著优于其他方法。
发现论文，激发创造
  • 无监督学习神经网络解释神经网络（扩展摘要）

    使用自编码器技术的无监督方法来学习 Neural Network，通过解释 CNN 中的可解释视觉概念来改善图像特征的可解释性。该方法不需要任何关于对象部件或纹理的监督信号进行训练。

    Jan, 2019

  • 可解释性卷积神经网络

    本文提出了一种方法，将传统的 CNN 转换为可解释的 CNN，以澄清 CNN 高卷积层中的知识表示。在可解释的 CNN 中，高卷积层中的每个滤波器表示某个物体部分，无需任何部件或纹理的注释就可以在学习过程中自动分配。实验表明，可解释的 CNN 中的滤波器比传统 CNN 中的滤波器更具有语义意义。

    Oct, 2017

  • 基于多重学习的卷积神经网络可解释部件图生长

    该研究提出了一种从预先训练的卷积神经网络中提取对象 - 部分概念的学习策略，通过挖掘预先训练的 CNN 中的潜在模式，并将它们与不同的语义部分关联来逐步在 CNN 上构建一个具有语义解释性的图形模型，以实现层次化的对象理解。

    Nov, 2016

  • 基于医学概念的图神经网络的认知解释器

    本研究提出一种基于医学概念的可解释卷积神经网络框架，可用于识别超声标准平面，并构建关键医学概念之间的关系，从医生的认知角度解释，并在实验中取得了实质性的解释性能提升。

    Jan, 2022

  • 利用决策树解释卷积神经网络

    本文介绍了一种利用决策树定量解释预训练卷积神经网络的预测理由的方法，通过分解 CNN 高卷积层的特征表示为对象部件的基本概念的方式，使决策树告诉人们哪些对象部分激活了哪些滤波器以及它们对预测得分的贡献有多大。

    Feb, 2018

  • 可解释的组合卷积神经网络

    通过修改传统卷积神经网络，将其转化为可解释的组合卷积神经网络，以学习中间卷积层中编码有意义的视觉模式的滤波器，从而实现语义可解释的 AI，该方法可以广泛应用于不同类型的 CNN，并且实验效果良好。

    Jul, 2021

  • 理解 CNN 内部的类内知识

    本研究使用卷积神经网络构建一个非参数补丁模型，从而可视化卷积神经网络内部类别的知识，进一步了解对象类别在全连接层中是如何表示的，并将其应用于风格化图像检索。

    Jul, 2015

  • 卷积文本图分类器中的逐层关联可视化

    本研究提出了一种新颖的方法，在可见层和隐藏层中追踪和可视化有贡献的特征，以解释 GCN 句子分类器的决策，并揭示了输入图结构中的隐藏跨层动态。

    Sep, 2019

  • 大规模可学习的图卷积网络

    通过使用可学习的图卷积层 (LGCL) 和子图训练方法，本论文解决了卷积神经网络在处理通用图像数据时的困难，提高了基于节点分类任务的准确率和效率。

    Aug, 2018

  • 使用二维卷积神经网络进行图形分类

    本文提出了一种新的方式将图形表示为多通道图像结构，并使用普通 2D 卷积神经网络来处理，该方法比现有图形核和图形 CNN 模型更准确且时间复杂度更小，适用于多种真实数据集。

    Jul, 2017