Dec, 2023

可解释卷积神经网络的一条路径：PICNN

PDF
TL;DR该论文引入了一种新的路径来缓解卷积神经网络中滤波器和图像类之间的纠缠，通过将 CNN 的滤波器分组到类别特定的簇中，实现了更好的可解释性和较高的区分能力。
convolutional neural networksinterpretabilityfiltersimage classespicnn
发现论文，激发创造
  • 通过对特定类别过滤器微分训练可解释的卷积神经网络

    本文主要介绍了一个用于训练卷积神经网络的新策略，通过向网络中添加可学习的稀疏 Class-Specific Gate 结构，以鼓励针对每个类别的滤波器，从而减轻 “黑盒” 问题和滤波器 - 类别缠结问题；通过在对象定位和对抗样本检测等应用中的实验证明，该方法比标准训练策略更加优异。

    Jul, 2020

  • 可解释性卷积神经网络

    本文提出了一种方法，将传统的 CNN 转换为可解释的 CNN，以澄清 CNN 高卷积层中的知识表示。在可解释的 CNN 中，高卷积层中的每个滤波器表示某个物体部分，无需任何部件或纹理的注释就可以在学习过程中自动分配。实验表明，可解释的 CNN 中的滤波器比传统 CNN 中的滤波器更具有语义意义。

    Oct, 2017

  • 可解释的组合卷积神经网络

    通过修改传统卷积神经网络，将其转化为可解释的组合卷积神经网络，以学习中间卷积层中编码有意义的视觉模式的滤波器，从而实现语义可解释的 AI，该方法可以广泛应用于不同类型的 CNN，并且实验效果良好。

    Jul, 2021

  • 深度神经网络中通路角色的理解

    通过分析经过训练的卷积神经网络（CNN），我们提出了一种算法来提取各个像素的扩散路径，以确定与目标类别相关联的输入图像中像素的位置，并且这种基于路径的表示在不同类别之间具有明显的区别。

    Feb, 2024

  • 卷积神经网络上的代表性解释发现

    本文提出一种基于无监督学习的方法来解释大量相似图像中深度卷积神经网络的决策逻辑，并将代表性解释问题转化为一种共聚类问题，并基于线性决策边界的样本将其转化为子模代价覆盖问题。我们还提供了可视化和相似性排序方法，广泛的实验证明了本方法的优秀表现。

    Aug, 2021

  • 深度卷积神经网络分析的改进

    本论文提出了一种基于可视化分析的方法，以更好地理解、诊断和改进深度卷积神经网络，并使用一些新的算法和技术来显示神经元和神经元群之间的多个方面和交互作用。

    Apr, 2016

  • E Pluribus Unum 可解释卷积神经网络

    本文提出了一种名为 E Pluribus Unum Interpretable CNN（EPU-CNN）的新型卷积神经网络模型，它将不同的感知特征 —— 例如颜色或纹理 —— 表示为输入图像的不同表征，并通过分类预测和相对贡献的解释提供了人类可感知的解释，同时在医学等风险敏感领域具有广泛的适用性和可比性。

    Aug, 2022

  • 大型图像数据集中的可解释性发现

    该研究提出了一种新方法，将新颖性检测与 CNN 图像特征相结合，用于在大型数据集中快速发现新的，有趣的，不同寻常或异常的图像，并提供可解释的解释。

    Jun, 2018

  • 理解 CNN 内部的类内知识

    本研究使用卷积神经网络构建一个非参数补丁模型，从而可视化卷积神经网络内部类别的知识，进一步了解对象类别在全连接层中是如何表示的，并将其应用于风格化图像检索。

    Jul, 2015

  • 理解卷积神经网络在文本分类中的应用

    本文研究了卷积神经网络在文本处理中的工作原理。作者发现，使用不同的神经元激活模式可以捕获不同的语义类别的 N-gram，并且 Max-pooling 操作可以区分出重要的 N-gram。最后，作者给出了基于研究结果的实际应用，包括模型可解释性和预测可解释性。

    Sep, 2018