该研究提出了一种通用的技术，以实现对任何标签类型的弱监督，同时仍提供实用灵活性、计算效率和理论保证，并应用于以往没有使用弱监督框架解决的重要问题，包括排序学习、回归和超似曲空间中的学习。

Dec, 2021

通过聚合多个弱监督数据源，本研究提出一种直接使用神经网络重参数化概率先验标签，从而直接学习下游模型的端到端方法，取得了端模型性能和弱监督数据依赖性方面的改进。

Jul, 2021

提出了 AutoWS 框架用于增加弱监督过程的效率，减少对领域专家的依赖性，使用少量标记的实例和自动创建标注函数的方法来指定嘈杂标签，然后通过一个下游歧别分类器将其聚合成概率标签。

Feb, 2023

该研究论文提出了 Weak Indirect Supervision (WIS) 这一问题，还设计了一种基于概率建模的 PLRM 方法来解决监督数据输出空间不匹配的问题。PLRM 方法在图像分类、文本分类和工业广告应用中均表现出超过基线模型 2% ~ 9% 的优势。

Oct, 2021

本研究提出了一种融合程序性弱监督和生成对抗网络的模型，通过对数据的离散潜变量和弱监督派生数据的标签估计进行对齐，从而更好地建模样本相关的弱监督结果的准确性，并通过合成样本实现了数据增强。实验结果表明，所提出的模型在多分类图像分类数据集上表现优异，同时提升了生成图像的质量和最终模型性能。

Mar, 2022

在弱监督学习领域的研究中，我们发现缺乏一个统一解释弱监督场景背后机制的方法，更不用说系统地处理风险重写问题，这是经验风险最小化方法中的一个关键步骤。本文介绍了一个框架，提供了对弱监督学习的全面理解和统一的方法论。框架的构成部分利用了污染视角，提供了弱监督是如何形成并包含了现有的 15 种弱监督学习设置的统一解释。引入的减少图提供了弱监督学习之间的全面连接。该框架的分析部分作为一种去污染过程，提供了进行风险重写的系统方法。除了传统的逆矩阵方法外，我们设计了一种称为边际链的新策略，旨在去污染分布。通过恢复文献中报道的现有重写，我们证明了所提框架的可行性。

Sep, 2023

通过弱监督模型来训练强大的预训练模型，研究发现在自然语言处理、国际象棋和奖励建模任务中，弱模型引导强模型的普遍性能要优于弱模型，但仍然需要进一步研究以扩展到超人模型。利用辅助置信度损失方法，可以在自然语言处理任务中获得接近 GPT-3.5 级性能，这表明今天在修正超人模型的基本挑战上取得实证进展是可行的。

Dec, 2023

本研究提出了一种半监督框架，利用 GPT-2 模型自动构建了大规模数据，并根据估计的标签质量调整模型参数更新，实现 NLG 和 NLU 模型的联合训练，证明在数据稀缺场景下，该弱监督培训范式是一种有效的方法，在 E2E 和天气基准测试上优于基准系统。

Feb, 2021

在标签输出空间包含二进制或多类标签集以外的结构化预测情况下，本文介绍了一些技术基于伪欧几里得嵌入和张量分解，提供了几乎一致的噪声率估计，并针对常曲率黎曼流形引入了新的不变量作为一致的噪声率估计。

Nov, 2022

本文介绍了一种新的机器学习辅助标注方法，即 Active WeaSuL。该方法使用专家定义的规则来估算整个数据集的概率标签，并在弱监督模型容易出错的几个点上迭代提供真实标签以优化模型性能。实验证明，Active WeaSuL 比其他方法更适用于获取标记数据困难的情况下。

Apr, 2021