本研究旨在通过利用知识蒸馏和神经图像压缩的思想，采用先进的监督压缩方法，使用带有随机瓶颈的教师模型和学生模型，以及可学习的熵编码先验方法来更高效地压缩深度学习的中间特征表示。我们在三个视觉任务上将我们的方法与各种神经图像和特征压缩基线进行比较，并发现我们的方法在保持端到端时延更小的情况下，实现了更好的受监督的率失真性能。我们还展示了学习到的特征表示可以调整为服务于多个下游任务。

Aug, 2021

通过利用大量未标记的图像，本文提出了一种基于师生范式的管道来改善卷积神经网络的性能，并对我们的方法取得成功的因素提供了广泛的分析，从而为图像分类的半监督学习产生高精度模型提出了建议。

May, 2019

本文综述了深度半监督学习的概念及其在深度神经网络上的应用，以期实现更高的数据效率。

Jun, 2020

该研究提出了一种基于数据增强的网络和训练策略，用于更有效地利用可用的标注样本，以实现对神经结构的分割和细胞跟踪。研究表明，这种网络可以从极少量的图像中进行端对端的训练，并在电子显微图像和透射光显微图像上均取得了优异的分割和跟踪效果，且速度快。

May, 2015

本研究提出了一种可扩展的半监督学习方法，该方法基于一种直接作用于图形的高效卷积神经网络变体，通过局部一阶逼近实现了谱图卷积的选择，其模型在节点数量上线性地扩展并学习编码局部图结构和节点特征的隐藏层表示，在引用网络和知识图数据集上的若干实验中，证明了我们的方法的明显优越性。

Sep, 2016

本文提出使用网络蒸馏来高效计算小型网络产生的图像嵌入，通过构建两个新的损失函数模拟深度教师网络向小型学生网络通信的机制，在多个数据集上验证我们的方法，得出小型学生网络计算的嵌入明显优于使用相似大小的标准网络计算的结果。其中在可移动设备上使用的 MobileNet-0.25 产生了 44.6% 的 Recall@1 结果。同时，研究了蒸馏嵌入的各种方面，包括提示和注意力层，半监督学习以及不同质量的蒸馏。

Apr, 2019

利用人工智能中的深度学习技术，基于 nnU-Net 框架实现了高质量的三维生物医学图像分割和量化，该框架不需要人工参与，能够自动适应不同的数据集和分割任务，同时在 19 项公共比赛中取得了优于大部分深度学习算法的表现。

Apr, 2019

我们提出了 Mini-Net，一个专门为医学图像设计的轻量级分割网络，通过少于 38,000 个参数高效捕捉高频和低频特征，从而实现在各种医学成像场景中的实时应用，并在 DRIVE、STARE、ISIC-2016、ISIC-2018 和 MoNuSeg 等各种数据集上评估了 Mini-Net，展现了它与最先进方法相比的稳健性和良好性能。

May, 2024

本文介绍了一种新的成本函数来进行神经网络的半监督学习，该函数通过动态创建一个图形来捕获特征空间中的潜在结构，并使用标签传播来估计其高和低密度区域，最终利用马尔科夫链设计出一种成本函数，以形成每类一个单一的紧凑簇，同时在优化过程中避免扰乱现有的簇，该方法在三个基准测试中表现良好，将基于图形的正则化的优点与高效的归纳推理相结合，不需要修改网络架构，可以轻松应用于现有网络，实现对未标记数据的有效利用。

Jun, 2018

比较 Capsule 网络和卷积神经网络（ConvNets），评估其在医学影像分析中使用少量标注数据和不平衡分类数据的表现，发现 Capsule 网络可以用较少的数据实现相同或更好的性能，并且更具有鲁棒性，非常有前景。

Jul, 2018