该研究试图通过两个方面对 CNN 的内部表示进行探究，即可视化不同层级所构建的表示空间中的补丁和可视化每个层中保留的视觉信息，进而比较不同深度的 CNN 的优势。

Dec, 2014

本文提出了一种方法，将传统的 CNN 转换为可解释的 CNN，以澄清 CNN 高卷积层中的知识表示。在可解释的 CNN 中，高卷积层中的每个滤波器表示某个物体部分，无需任何部件或纹理的注释就可以在学习过程中自动分配。实验表明，可解释的 CNN 中的滤波器比传统 CNN 中的滤波器更具有语义意义。

Oct, 2017

通过用一种新型卷积神经网络（CNN）来编码不变性的再生核，本文解决了视觉识别中旨在设计对特定变换具有不变性的图像表示的问题， 其中与传统方法不同的是，我们的网络学习在训练数据上逼近核特征映射，从而带来了多个优势，包括获得具有不变性的简单神经网络体系结构，实现与更复杂 CNNs 相似的准确度，以及抵抗过拟合等。

Jun, 2014

本文提出了一种简单而高效的方法，通过自动区分不同的部分模式从每个卷积滤波器中解开卷积神经网络内隐藏的知识层次结构，并构建了一个解释性图形模型，该模型通过无监督学习的方法进行了预训练，该图表现出不同图像中相同的物体部分，并且通过转移图形中的部分模式到部分定位任务中，其性能显著优于其他方法。

Aug, 2017

本研究通过对 CNNs 的内部状态进行聚类，提出了一种无监督学习方法来发现物体的语义部件表达，即 Visual Concepts，并证明了其在物体部件检测和语义标注方面的有效性。

Nov, 2015

本文综述了通过 Activation Maximization、Network Inversion、Deconvolutional Neural Networks (DeconvNet) 以及 Network Dissection 等可视化手段实现 CNN 可解释性的方法，并探讨了这些方法在网络设计、优化和安全增强等领域中的实际应用价值。

Apr, 2018

本文研究了卷积神经网络的分类问题，并发现不同类别之间存在层级关系。同时，网络中不同层次的特征检测器的训练行为也在一定程度上受到类别层次结构的影响。根据这些发现，设计了一种层次感知的卷积神经网络，有效提高了模型的准确性并解决过拟合问题，并能够帮助发现训练数据中的各种质量问题。

Oct, 2017

该研究使用特征打乱的方法，结合 CNNs 的最小可识别构型分析和有效接受域尺寸的系统控制，探索了 CNNs 在对象分类中是否使用特征的空间排列，并且发现它们实际上能够利用相对较远的空间关系进行对象分类，同时证明 CNNs 使用的空间关系程度非常依赖于特定数据集和该数据集中不同类别对象的分类策略也不同。最后，研究还发现 CNNs 只能学习特征的中间粒度的空间排列，这提示了在对象分类中中间层次的形状特征提供了敏感度和特异性之间的最佳平衡点。

Dec, 2022

本研究使用卷积神经网络进行城市识别，并使用 Grad-CAM 技术生成加权掩模，聚类物体和统计措施来量化高解释性的特征，同时研究了不同的网络架构和初始化方式对城市识别深度特征的可解释性的影响。

May, 2019

通过小块状的看似无法识别的图块来分类图像可以使卷积神经网络 (CNNs) 的性能匹配或甚至超越使用完整图像训练的 CNNs 的性能，并且过度拟合似乎不是必须的。

May, 2022