本文介绍一种名为 Contrastive Deep Supervision 的新型训练框架，该框架使用基于 augmentation 的对比学习来监督中间层，从而在多种深度学习任务上取得了显著的效果。

Jul, 2022

通过在训练过程中，在某些中间层之后添加辅助监督分支，形成深度监督结构，其训练更容易，且在 ImageNet 和较大的 MIT Places 数据集上获得更好的分类效果。

May, 2015

本文提出一种深度监督方法，通过利用中间概念对 CNN 的隐藏层进行监督，将先前的领域结构融入到神经网络训练中，显著提高了推广能力。该方法还可以仅使用合成场景来训练，并在实际图像上取得了 2D/3D 关键点本地化和图像分类的最新性能。

Jan, 2018

本文综述了深度半监督学习的概念及其在深度神经网络上的应用，以期实现更高的数据效率。

Jun, 2020

本文提出了一种名为 BiSupervised 的新型体系结构，可以在不牺牲系统准确率的情况下减少大规模远程模型的调用成本，并且可以检测不正确的输入。

Apr, 2023

通过多种设计好的学习范式来缓解监督瓶颈，以在文本中诱导各种语义表征，从而帮助决策，减少生成必要的监督信号导致的代价和不可扩展的问题。

May, 2020

本文针对深度半监督学习方法中的模型设计和无监督损失函数的透视，提供了关于基础和最新进展的全面调查，首先提出了将现有方法分类的深度半监督学习分类法，包括深度生成方法、一致性正则化方法、基于图的方法、伪标记方法和混合方法，然后全面回顾了 52 种代表性方法，并详细比较了这些方法在损失类型、贡献和架构差异方面的差异。除了过去几年的进展外，我们进一步讨论了一些现有方法的缺点，并提供了一些试探性的启发式解决方案来解决这些开放性问题。

Feb, 2021

本文对于深度卷积神经网络的自监督技术进行了批判性的探讨，指出在使用强大的数据增强技术后，三种不同但具有代表性的方法可以从单个图像中学习卷积网络的前几层，但是对于更深层的神经网络，即使使用了数百万张未标记的图像来进行训练，与手动监督的差距也无法弥补。该研究得出的结论是：（1）深度网络的早期层的权值包含的自然图像的统计信息非常有限，（2）这种低层次的统计信息可以通过自监督学习和强监督学习一样学习，（3）可以通过使用合成变换来捕获低层次的统计信息，而无需使用大量的图像数据集。

Apr, 2019

本文提出了一种使用知识推理方法检测潜在误差样本的方法，以提高使用远程监督数据训练关系提取系统的性能。

Sep, 2015

本研究介绍了一种通过 CNN-RNN 模型学习面部深度和估计 rPPG 信号来识别真实人脸和虚假人脸的新型面部反欺诈方法，并提出了一种新的面部反欺诈数据库，数据集包含大范围的变化。实验结果表明，该模型在数据库内和跨数据库测试上均达到了最先进水平。

Mar, 2018