Oct, 2017

可解释性卷积神经网络

PDF
TL;DR本文提出了一种方法，将传统的 CNN 转换为可解释的 CNN，以澄清 CNN 高卷积层中的知识表示。在可解释的 CNN 中，高卷积层中的每个滤波器表示某个物体部分，无需任何部件或纹理的注释就可以在学习过程中自动分配。实验表明，可解释的 CNN 中的滤波器比传统 CNN 中的滤波器更具有语义意义。
interpretable cnnsknowledge representationconvolutional neural networksobject partslearning process
发现论文，激发创造
  • 可解释的组合卷积神经网络

    通过修改传统卷积神经网络，将其转化为可解释的组合卷积神经网络，以学习中间卷积层中编码有意义的视觉模式的滤波器，从而实现语义可解释的 AI，该方法可以广泛应用于不同类型的 CNN，并且实验效果良好。

    Jul, 2021

  • 无监督学习神经网络解释神经网络（扩展摘要）

    使用自编码器技术的无监督方法来学习 Neural Network，通过解释 CNN 中的可解释视觉概念来改善图像特征的可解释性。该方法不需要任何关于对象部件或纹理的监督信号进行训练。

    Jan, 2019

  • 通过对特定类别过滤器微分训练可解释的卷积神经网络

    本文主要介绍了一个用于训练卷积神经网络的新策略，通过向网络中添加可学习的稀疏 Class-Specific Gate 结构，以鼓励针对每个类别的滤波器，从而减轻 “黑盒” 问题和滤波器 - 类别缠结问题；通过在对象定位和对抗样本检测等应用中的实验证明，该方法比标准训练策略更加优异。

    Jul, 2020

  • 深度学习的可视化可解释性调查

    本文综述了解神经网络表示和学习可解释 / 解耦的中间层表示的最新研究进展，并重点介绍了卷积神经网络 (CNNs) 的可视化、诊断、解耦、学习及其在可解释人工智能方面的前景趋势。

    Feb, 2018

  • 通过解释图解释 CNN 知识

    本文提出了一种简单而高效的方法，通过自动区分不同的部分模式从每个卷积滤波器中解开卷积神经网络内隐藏的知识层次结构，并构建了一个解释性图形模型，该模型通过无监督学习的方法进行了预训练，该图表现出不同图像中相同的物体部分，并且通过转移图形中的部分模式到部分定位任务中，其性能显著优于其他方法。

    Aug, 2017

  • 基于 SincNet 的可解释卷积滤波器

    本研究提出了一种新的卷积神经网络模型 ——SincNet，该模型可用于直接处理从原始波形中提取的语音，通过使用参数化 sinc 函数，鼓励第一层学习更有意义的滤波器，学习带通滤波器的低高截止频率可以从数据中直接进行，该模型比标准 CNN 模型具有更快的收敛速度，更好的性能和更好的可解释性，这在说话人识别和语音识别方面得到了很好的实验验证。

    Nov, 2018

  • 卷积神经网络上的代表性解释发现

    本文提出一种基于无监督学习的方法来解释大量相似图像中深度卷积神经网络的决策逻辑，并将代表性解释问题转化为一种共聚类问题，并基于线性决策边界的样本将其转化为子模代价覆盖问题。我们还提供了可视化和相似性排序方法，广泛的实验证明了本方法的优秀表现。

    Aug, 2021

  • 可解释卷积神经网络的一条路径：PICNN

    该论文引入了一种新的路径来缓解卷积神经网络中滤波器和图像类之间的纠缠，通过将 CNN 的滤波器分组到类别特定的簇中，实现了更好的可解释性和较高的区分能力。

    Dec, 2023

  • 大型图像数据集中的可解释性发现

    该研究提出了一种新方法，将新颖性检测与 CNN 图像特征相结合，用于在大型数据集中快速发现新的，有趣的，不同寻常或异常的图像，并提供可解释的解释。

    Jun, 2018

  • 混合 CNN - 解释器：为基于 CNN 的模型解释局部和全局上下文

    提出基于深度卷积神经网络的新型机器学习解释器，融合局部与全局解释框架，以实现对模型性能的更精确理解和监控。该方法可应用于各种卷积神经网络结构，并分析其输入输出关系、特征相关性和过滤器的重要性等关键参数。

    Oct, 2022