NIPSNov, 2017

将输入概念与卷积神经网络的决策联系起来

PDF
TL;DR本文探究了卷积神经网络 CNN 中通过对输入进行概念识别达到决策的关系，通过考察场景识别 CNN 对 ADE20k 数据集的训练结果，找到并评分给定输入概念的最小分布式表示强度，证实了概念识别对 CNN 决策具有影响力，经常出现在少数场景中的理解程度高的概念表明了正确决策，但认识到许多场景中共同的概念可能会误导 CNN。
convolutional neural networkscnnconcept recognitionscene recognitionade20k dataset
发现论文，激发创造
  • 通过引导概念学习实现可理解的卷积神经网络

    该论文提出了一种带有附加概念层的 CNN 架构的引导学习方法，用于学习视觉特征和单词短语之间的关联，并通过优化预测准确性和特征表示的语义来学习与人类感知一致的概念，实验结果表明，所提出的模型可以在不牺牲准确性的情况下学习一致于人类感知的概念，并可将这些学习到的概念转移到具有相似概念的新对象类别中。

    Jan, 2021

  • 一种新的特征混淆方法揭示了卷积神经网络学习空间关系的能力

    该研究使用特征打乱的方法，结合 CNNs 的最小可识别构型分析和有效接受域尺寸的系统控制，探索了 CNNs 在对象分类中是否使用特征的空间排列，并且发现它们实际上能够利用相对较远的空间关系进行对象分类，同时证明 CNNs 使用的空间关系程度非常依赖于特定数据集和该数据集中不同类别对象的分类策略也不同。最后，研究还发现 CNNs 只能学习特征的中间粒度的空间排列，这提示了在对象分类中中间层次的形状特征提供了敏感度和特异性之间的最佳平衡点。

    Dec, 2022

  • 神经网络是否真的编码符号概念？

    本文探讨了神经网络模型中输入变量之间互动和由此定义出的概念所代表的意义是否真实可靠，经过大量实证研究，发现训练良好的神经网络模型往往可以获得稀疏、可转移和有区分性的概念，这部分与人类观点相符合。

    Feb, 2023

  • 卷积神经网络的智能程度如何？

    通过合成实验，研究深度学习算法从图像中推断简单的视觉概念，如对称性，作者设计了 “啊哈挑战” 以促进对 Gestalt 风格机器智能的研究。实验表明，相比于深度卷积神经网络，人类能够很快推断出语义概念，但需要更少的示例才能做到这一点。

    Sep, 2017

  • 卷积神经网络上的代表性解释发现

    本文提出一种基于无监督学习的方法来解释大量相似图像中深度卷积神经网络的决策逻辑，并将代表性解释问题转化为一种共聚类问题，并基于线性决策边界的样本将其转化为子模代价覆盖问题。我们还提供了可视化和相似性排序方法，广泛的实验证明了本方法的优秀表现。

    Aug, 2021

  • 通过输入重采样实现卷积神经网络的可视化解释

    我们提出了一种通过检测神经网络中的信息流来分析预测的框架，该框架使用两个指标选择神经元，这些神经元既对网络输出产生巨大影响又能激活通用特征并比较不同度量筛选的神经元集合，从而提出了一种调查卷积神经网络内部注意机制的方法。

    Jul, 2017

  • 使用中间概念的深度监督

    本文提出一种深度监督方法，通过利用中间概念对 CNN 的隐藏层进行监督，将先前的领域结构融入到神经网络训练中，显著提高了推广能力。该方法还可以仅使用合成场景来训练，并在实际图像上取得了 2D/3D 关键点本地化和图像分类的最新性能。

    Jan, 2018

  • 卷积神经网络如何看待世界 - 卷积神经网络可视化方法综述

    本文综述了通过 Activation Maximization、Network Inversion、Deconvolutional Neural Networks (DeconvNet) 以及 Network Dissection 等可视化手段实现 CNN 可解释性的方法，并探讨了这些方法在网络设计、优化和安全增强等领域中的实际应用价值。

    Apr, 2018

  • 当关系比概念更能说明问题：用 CoReX 探索和评估分类器的决策

    本研究提出了一种基于概念和关系的解释方法（CoReX），用于解释和评估卷积神经网络（CNN）模型，以及支持识别和重新分类错误或模糊分类。

    May, 2024

  • 神经网络中将学习到的概念归因于训练数据

    通过深度学习模型和数据归因方法，在多层网络上训练网络和探针集合，研究了概念形成的可靠性和内部表示中的人类可解释特征。

    Oct, 2023