本文提出了一种名为深度监督网络（DSN）的方法，该方法同时最小化分类错误并使隐藏层的学习过程变得直接和透明；通过研究深层网络中的新表述，从卷积神经网络结构的三个方面来提高分类性能：中间层到整体分类的透明度、学习特征的区分能力及健壮性（特别是在早期层），以及存在爆炸和消失梯度的有效训练。我们在个别隐藏层中引入 “伴随目标”，并结合随机梯度方法来分析算法。实验结果表明，相对于现有方法，我们的方法具有显著的性能提升（例如在 MNIST，CIFAR-10，CIFAR-100 和 SVHN 等基准数据集上的表现均优于现有技术的最新水平）。

Sep, 2014

本研究提出一种自适应分层网络结构，由 DCNN 组成，可以随着新数据的出现而不断增长和学习。该模型通过组织渐增的可用数据成特征驱动的超类，实现了分类能力的自我增长，并在 CIFAR-10 和 CIFAR-100 数据集上实现了较优的准确率，从而显著减少了训练时间。

Feb, 2018

本文提出了 Deeply-supervised Knowledge Synergy (DKS)，这是一种新方法，旨在改善 CNN 在图像分类任务中的泛化能力。通过在某些中间网络层的顶部附加辅助监督，以动态地学习分类器的概率知识来提高训练，应用了新的协同损失，同时考虑所有监督分支之间的成对知识匹配，证明了该模型在 ImageNet 分类基准测试中的表现更好。

Jun, 2019

本研究提出了一种高效的深度卷积神经网络训练方法，基于增量学习的技术思想，允许网络在学习新任务时共享以前学习过的卷积层，同时不会丢失以前学习过的任务，通过克隆 - 分支技术，每次逐一地学习新任务，达到节省时间、能源和存储等复杂度的目的。

Dec, 2017

基于数据输入，本研究提出了一种新算法，允许卷积神经网络的卷积层在动态环境下进行演化，并无缝地整合到现有的 DNNs 中。通过引入核函数，迭代性地评估图像特征的识别能力，本方法在多个数据集上展示了优于监督方法的表现，并在迁移学习场景中展示了增强的适应性，填补了深度学习中对于动态环境更灵活高效的 DNNs 的空白。

Sep, 2023

本文提出了一种基于层次化组合模型的分析模型，通过显式的结构模型和明确的鉴别成本函数结合，在两个数据集上的实验表明，该模型在判别任务中表现和标准 CNN 相当，同时由于特征单元中结构的明确建模，使得其部分具体化可视化、推理快速分离，并且从局部观察中还原能力更强。

Sep, 2016

本论文提出了一种基于可视化分析的方法，以更好地理解、诊断和改进深度卷积神经网络，并使用一些新的算法和技术来显示神经元和神经元群之间的多个方面和交互作用。

Apr, 2016

提出了一种 Hierarchical Memorizing Network (HMNet) 模型，通过引入分层卷积结构、动态变量交互模块和自适应去噪模块，实现了对序列的多尺度信息提取、变量之间动态相关性学习和类似模式的去噪，实验证明 HMNet 在多个基准测试上明显优于现有模型。

Dec, 2023

通过提取卷积神经网络的最终层中的特征并使用决策树进行训练，我们提出了一种蒸馏方法来解释深度神经网络的推理，展示了决策树在解释卷积神经网络决策时的表现与最小复杂度的卷积神经网络相当好。

Mar, 2024

本文提出了一种基于层的鉴别性学习方法来增强深度神经网络的鉴别能力，在多个层上引入多个分类器，使它们协同工作进行分类，通过对多个深度网络和基准数据集的实验，证明了该方法的有效性，并分析了该方法和经典条件随机场模型之间的关系。

Jul, 2016