Aug, 2022

E Pluribus Unum 可解释卷积神经网络

PDF
TL;DR本文提出了一种名为 E Pluribus Unum Interpretable CNN（EPU-CNN）的新型卷积神经网络模型，它将不同的感知特征 —— 例如颜色或纹理 —— 表示为输入图像的不同表征，并通过分类预测和相对贡献的解释提供了人类可感知的解释，同时在医学等风险敏感领域具有广泛的适用性和可比性。
convolutional neural networkinterpretable modelsperceptual featuresepu-cnnclassification performance
发现论文，激发创造
  • 可解释性卷积神经网络

    本文提出了一种方法，将传统的 CNN 转换为可解释的 CNN，以澄清 CNN 高卷积层中的知识表示。在可解释的 CNN 中，高卷积层中的每个滤波器表示某个物体部分，无需任何部件或纹理的注释就可以在学习过程中自动分配。实验表明，可解释的 CNN 中的滤波器比传统 CNN 中的滤波器更具有语义意义。

    Oct, 2017

  • 可解释的组合卷积神经网络

    通过修改传统卷积神经网络，将其转化为可解释的组合卷积神经网络，以学习中间卷积层中编码有意义的视觉模式的滤波器，从而实现语义可解释的 AI，该方法可以广泛应用于不同类型的 CNN，并且实验效果良好。

    Jul, 2021

  • 卷积神经网络上的代表性解释发现

    本文提出一种基于无监督学习的方法来解释大量相似图像中深度卷积神经网络的决策逻辑，并将代表性解释问题转化为一种共聚类问题，并基于线性决策边界的样本将其转化为子模代价覆盖问题。我们还提供了可视化和相似性排序方法，广泛的实验证明了本方法的优秀表现。

    Aug, 2021

  • 可解释卷积神经网络的一条路径：PICNN

    该论文引入了一种新的路径来缓解卷积神经网络中滤波器和图像类之间的纠缠，通过将 CNN 的滤波器分组到类别特定的簇中，实现了更好的可解释性和较高的区分能力。

    Dec, 2023

  • 神经网络的解释易受到通用对抗扰动的影响

    本文提出了一种通用扰动方法（UPI）来干扰神经网络梯度解释，并通过数值结果支持了该方法的成功应用。

    Nov, 2022

  • 混合 CNN - 解释器：为基于 CNN 的模型解释局部和全局上下文

    提出基于深度卷积神经网络的新型机器学习解释器，融合局部与全局解释框架，以实现对模型性能的更精确理解和监控。该方法可应用于各种卷积神经网络结构，并分析其输入输出关系、特征相关性和过滤器的重要性等关键参数。

    Oct, 2022

  • UberNet: 使用多样化数据集和有限内存训练 “通用” 的卷积神经网络，以进行低、中、高层次的视觉处理

    本文介绍了一种卷积神经网络，在统一体系结构中同时处理低阶，中阶和高阶视觉任务，其通过端到端训练，为视觉任务提供了通用解决方案，同时解决了训练深度架构时依赖不同训练集和训练多个任务时内存有限的问题，通过这些方法在单个 GPU 上每帧 0.7 秒地同时处理多项任务，其中包括边界检测，正常估计，显著性预测，语义分割，人体部分分割，语义边界检测，区域建议生成和物体检测等，同时保证了高准确率。

    Sep, 2016

  • 无监督学习神经网络解释神经网络（扩展摘要）

    使用自编码器技术的无监督方法来学习 Neural Network，通过解释 CNN 中的可解释视觉概念来改善图像特征的可解释性。该方法不需要任何关于对象部件或纹理的监督信号进行训练。

    Jan, 2019

  • 通过对特定类别过滤器微分训练可解释的卷积神经网络

    本文主要介绍了一个用于训练卷积神经网络的新策略，通过向网络中添加可学习的稀疏 Class-Specific Gate 结构，以鼓励针对每个类别的滤波器，从而减轻 “黑盒” 问题和滤波器 - 类别缠结问题；通过在对象定位和对抗样本检测等应用中的实验证明，该方法比标准训练策略更加优异。

    Jul, 2020

  • 大型图像数据集中的可解释性发现

    该研究提出了一种新方法，将新颖性检测与 CNN 图像特征相结合，用于在大型数据集中快速发现新的，有趣的，不同寻常或异常的图像，并提供可解释的解释。

    Jun, 2018