May, 2023

FICNN：深度卷积神经网络解释框架

PDF
TL;DR本文提出了一种卷积神经网络模型解释框架，指出了模型解释和解释任务的差异，定义了用于表征解释方法的六个因素，并讨论了现有解释方法和评估协议对它们的验证，以及提出了可能出现的研究问题。
convolutional neural networksmodel interpretationvisual datainterpretation methodsevaluation protocols
发现论文，激发创造
  • 通过解释进行视觉说明：提高深度神经网络视觉反馈能力

    本文提出了一种基于内部特征及可视化的方法，能够自动识别预先训练模型中与给定类相关的特征，以进行深度模型的解释和阐释，并且提出了一种针对 deconvNet 可视化操作引入的伪像问题的方法，同时还提出了一个专门用于视觉解释方法客观定量评估的数据集 an8Flower。实验证明，该方法在 MNIST、ILSVRC12、Fashion144k 和 an8Flower 数据集上能够产生具有良好主题相关特征覆盖的详细解释。

    Dec, 2017

  • 基于引导特征反演的深度神经网络预测解释方法

    本文提出了一种基于指导特征反演框架的深度神经网络解释模型，可以确定神经网络中每个特征的贡献并提供决策过程的洞见，通过与 DNN 模型输出层目标类别的神经元进一步交互，我们强制解释结果具有类别区别能力，实验证明了我们提出的框架在提供 DNN 预测的类别判别性解释方面的有效性。

    Mar, 2018

  • 通过网络剖析解释深度视觉表示

    本研究介绍了 Network Dissection 方法，通过为深度视觉表示的单元提供标签来解释网络。该方法量化了 CNN 表示的可解释性，通过评估单个隐藏单元和一组视觉语义概念之间的对齐来识别最佳对齐，认定单位为人类可解释标签。研究发现，深度网络是比预期更加透明和可解释的，并且可用于提供 CNN 对图像的解释预测，以增强其可解释性，这是深度神经网络的重要属性，提供了对其分层结构的新的洞见。

    Nov, 2017

  • 可解释性卷积神经网络

    本文提出了一种方法，将传统的 CNN 转换为可解释的 CNN，以澄清 CNN 高卷积层中的知识表示。在可解释的 CNN 中，高卷积层中的每个滤波器表示某个物体部分，无需任何部件或纹理的注释就可以在学习过程中自动分配。实验表明，可解释的 CNN 中的滤波器比传统 CNN 中的滤波器更具有语义意义。

    Oct, 2017

  • 深度学习的可视化可解释性调查

    本文综述了解神经网络表示和学习可解释 / 解耦的中间层表示的最新研究进展，并重点介绍了卷积神经网络 (CNNs) 的可视化、诊断、解耦、学习及其在可解释人工智能方面的前景趋势。

    Feb, 2018

  • 深度神经网络解释和理解的方法

    本文提供了解释深度神经网络模型和其预测的问题的入门方法。它介绍了近期提出的几种解释技术，以及相关理论，技巧和建议，以最有效地利用这些技术处理实际数据。此外，还讨论了一些实际应用。

    Jun, 2017

  • 卷积神经网络上的代表性解释发现

    本文提出一种基于无监督学习的方法来解释大量相似图像中深度卷积神经网络的决策逻辑，并将代表性解释问题转化为一种共聚类问题，并基于线性决策边界的样本将其转化为子模代价覆盖问题。我们还提供了可视化和相似性排序方法，广泛的实验证明了本方法的优秀表现。

    Aug, 2021

  • 噪声抑制卷积神经网络的信号处理解释

    这篇文章通过将信号处理的基本原理与深度学习领域相连接，在统一的理论框架下，建立了对深度卷积框图的直观理解，解释了多样的编码 - 解码卷积神经网络架构，并提供了设计稳健高效的新颖卷积神经网络架构的重要指导。

    Jul, 2023

  • 混合 CNN - 解释器：为基于 CNN 的模型解释局部和全局上下文

    提出基于深度卷积神经网络的新型机器学习解释器，融合局部与全局解释框架，以实现对模型性能的更精确理解和监控。该方法可应用于各种卷积神经网络结构，并分析其输入输出关系、特征相关性和过滤器的重要性等关键参数。

    Oct, 2022

  • 理解 CNN：利用 INN 解释深度表示及不变性

    为了了解神经网络不透明的黑盒表示法，本研究提出了一种基于 INNs 的方法来恢复任务特定和已学习不变量，将其变成易于理解的语义概念，并在不影响性能的情况下进行后期解释。

    Aug, 2020