IJCAIJul, 2021

可解释的组合卷积神经网络

PDF
TL;DR通过修改传统卷积神经网络，将其转化为可解释的组合卷积神经网络，以学习中间卷积层中编码有意义的视觉模式的滤波器，从而实现语义可解释的 AI，该方法可以广泛应用于不同类型的 CNN，并且实验效果良好。
semantic interpretabilitycompositional cnnvisual patternsclassificationcnns
发现论文，激发创造
  • 可解释性卷积神经网络

    本文提出了一种方法，将传统的 CNN 转换为可解释的 CNN，以澄清 CNN 高卷积层中的知识表示。在可解释的 CNN 中，高卷积层中的每个滤波器表示某个物体部分，无需任何部件或纹理的注释就可以在学习过程中自动分配。实验表明，可解释的 CNN 中的滤波器比传统 CNN 中的滤波器更具有语义意义。

    Oct, 2017

  • 教授卷积神经网络组合性

    本文提出了一种扩充并训练卷积神经网络的方法，使其学到的特征是组成式的，并促进对对象的分离。实验表明，这种组成式特征学习方法在目标识别任务中相比非组成式基线可以获得更好的性能提升。

    Jun, 2017

  • 组成卷积神经网络：一种强健且可解释的物体识别模型（考虑遮挡情况）

    本研究提出了 CompositionalNets，一种将深度卷积神经网络和基于部件的模型统一起来的可解释深度体系结构，具有天生的部分遮挡鲁棒性，同时能够将图像分解为对象和上下文，并基于非遮挡部分的对象来识别遮挡对象。实验结果表明，CompositionalNets 在分类和检测部分遮挡对象方面比传统的深度卷积神经网络有显著的优势，并可以准确地定位遮挡物。

    Jun, 2020

  • 卷积神经网络的语义解释：什么使得一只猫成为猫？

    本文提出了语义可解释人工智能（S-XAI）框架，利用基因算法发现的最佳超像素的共同特征和可视化技术提取了理解的语义空间，同时提供了语义空间的统计解释和语义概率的概念。实验结果表明，S-XAI 在为 CNN 提供更好的语义解释方面是有效的，具有广泛的应用价值，包括可信度评估和语义样本搜索。

    Apr, 2022

  • 语义和数量化解释神经网络

    本篇论文提出了一种从卷积神经网络中提取和解释知识的方法，并通过可解释的加性模型量化地解释了神经网络预测的理由，解决了可解释性问题和 Typical Bias-Interpreting 问题，并通过实验证明了该方法的有效性。

    Dec, 2018

  • 卷积神经网络上的代表性解释发现

    本文提出一种基于无监督学习的方法来解释大量相似图像中深度卷积神经网络的决策逻辑，并将代表性解释问题转化为一种共聚类问题，并基于线性决策边界的样本将其转化为子模代价覆盖问题。我们还提供了可视化和相似性排序方法，广泛的实验证明了本方法的优秀表现。

    Aug, 2021

  • 基于 SincNet 的可解释卷积滤波器

    本研究提出了一种新的卷积神经网络模型 ——SincNet，该模型可用于直接处理从原始波形中提取的语音，通过使用参数化 sinc 函数，鼓励第一层学习更有意义的滤波器，学习带通滤波器的低高截止频率可以从数据中直接进行，该模型比标准 CNN 模型具有更快的收敛速度，更好的性能和更好的可解释性，这在说话人识别和语音识别方面得到了很好的实验验证。

    Nov, 2018

  • 深度组合网络

    本文提出了一种基于层次化组合模型的分析模型，通过显式的结构模型和明确的鉴别成本函数结合，在两个数据集上的实验表明，该模型在判别任务中表现和标准 CNN 相当，同时由于特征单元中结构的明确建模，使得其部分具体化可视化、推理快速分离，并且从局部观察中还原能力更强。

    Sep, 2016

  • 无监督学习神经网络解释神经网络（扩展摘要）

    使用自编码器技术的无监督方法来学习 Neural Network，通过解释 CNN 中的可解释视觉概念来改善图像特征的可解释性。该方法不需要任何关于对象部件或纹理的监督信号进行训练。

    Jan, 2019

  • 深度学习的可视化可解释性调查

    本文综述了解神经网络表示和学习可解释 / 解耦的中间层表示的最新研究进展，并重点介绍了卷积神经网络 (CNNs) 的可视化、诊断、解耦、学习及其在可解释人工智能方面的前景趋势。

    Feb, 2018