本文提出基于能量分数的伪标记法，用于解决深度卷积神经网络中，由于 softmax 置信度无法准确反映样本离训练数据的距离，导致伪标记不可靠的问题，并在不平衡 SSL 数据集上实现了明显的精度提升。

Jun, 2022

提出了一种基于能量评分的伪标签方法（InPL）来应对非均衡半监督学习问题，该方法不依赖于模型置信度，而是根据样本在当前训练数据附近的相对位置进行评分，与目前的置信度评分方法相比，InPL 能够相对简单且显著地提高分类精度，并在 CIFAR10-LT 数据集上提高了 3％的绝对准确度和一个最具挑战性的场景下跑赢了最佳竞争对手。

Mar, 2023

本文介绍了一个拟会泛化误差的具有 Bayesian 框架的 pseudo-label 选择方法 (BPLS)，其使用解析近似来选择标签实例，并通过针对高维数据的实证评估来表明其优于传统的 PLS 方法。

Feb, 2023

本文探讨了针对预训练语言模型（PLMs）的置信度校准，提出了一种 Calibrated PLM（CALL）的组合方法，包括置信度惩罚损失、数据增强和集成方法，CALL 能够弥补对单独使用校准方法可能产生的缺陷，提高了分类和校准精度。

Feb, 2023

本研究介绍了一种新的伪标记形式，作为期望最大化算法的清晰统计解释，并提出了一种基于原始伪标记的半监督医学图像分割方法 SegPL，证明了其在 2D 多类 MRI 脑肿瘤和 3D 二进制 CT 肺血管分割任务中的效力和可靠性。

Aug, 2022

使用 CPLL 模型整合多注释者标签和先验、后验置信度，通过 EM 算法学习标记和内容相关的置信度，以解决命名实体识别中多注释者标签一致性问题，并在实际和合成数据集上得到有效提升。

May, 2023

给出伪标记策略对图学习模型的影响的深入见解，通过错误分析证明伪标记错误受伪标记阈值的置信度和多视图预测的一致性的限制，并在收敛性属性上理论上说明的基础上，提出了一种谨慎的伪标签方法，通过对置信度最高且多视图一致的样本进行伪标签，从而改进了图学习过程，在链接预测和节点分类任务上优于其他伪标记策略。

Oct, 2023

本文探讨在预训练的文本编码器（如 Roberta）的微调期间进行联合能量模型（EBM）训练，以提高模型的准确性，并通过噪声对比估计进行训练，同时引入掩码语言模型（MLM）目标来提高 NCE 训练的效果。

Jan, 2021

本文提出一种基于不确定性的假标签选择框架，通过减少训练过程中的噪音来提高假标签的准确性，并可以生成负假标签用于多标签分类和负学习，相比于最近的半监督学习方法在 CIFAR-10、CIFAR-100、UCF-101 和 Pascal VOC 数据集上获得了很好的性能。

Jan, 2021

该技术报告评估了通过自监督学习训练大规模视觉和语言模型的有效性，并比较了基于能量和对比学习的表示学习方法对视觉问答任务预训练的影响，发现对比学习目前是相对更可行的选择，能够提高其泛化能力。

Jun, 2022