Feb, 2022

程序化弱监督综述

PDF
TL;DR本文综述了最近在程序化弱监督（PWS）方面取得的重要进展，特别介绍了该学习范例的简要概述并回顾了在该流程内的各个组成部分的代表性方法，还讨论了解决有限标记数据方案的补充学习范式及相关方法如何与 PWS 结合使用，最后鉴定了一些在该领域中仍未被探讨的关键挑战，希望能够激发未来的研究方向。
programmatic weak supervisionmachine learningtraining datasupervision sourceslabeled data scenarios
发现论文，激发创造
  • AutoWS: 文本分类自动化弱监督框架

    提出了 AutoWS 框架用于增加弱监督过程的效率，减少对领域专家的依赖性，使用少量标记的实例和自动创建标注函数的方法来指定嘈杂标签，然后通过一个下游歧别分类器将其聚合成概率标签。

    Feb, 2023

  • 学习超标签模型以进行编程式弱监督

    本文提出一种超级标签模型，通过程序化弱监督方法中的标注函数抽象出来产生训练标签，可以在单个前向传递中推断出每个数据集的基本真实标签。使用了图神经网络，使模型预测对标签函数排列的顺序保持不变，从而在 14 个真实世界中的数据集上表现得比现有的最佳方法更具效率和精度。

    Jul, 2022

  • 通用弱监督

    该研究提出了一种通用的技术，以实现对任何标签类型的弱监督，同时仍提供实用灵活性、计算效率和理论保证，并应用于以往没有使用弱监督框架解决的重要问题，包括排序学习、回归和超似曲空间中的学习。

    Dec, 2021

  • 通过弱间接监督创建训练集

    该研究论文提出了 Weak Indirect Supervision (WIS) 这一问题，还设计了一种基于概率建模的 PLRM 方法来解决监督数据输出空间不匹配的问题。PLRM 方法在图像分类、文本分类和工业广告应用中均表现出超过基线模型 2% ~ 9% 的优势。

    Oct, 2021

  • 端到端弱监督

    通过聚合多个弱监督数据源，本研究提出一种直接使用神经网络重参数化概率先验标签，从而直接学习下游模型的端到端方法，取得了端模型性能和弱监督数据依赖性方面的改进。

    Jul, 2021

  • 一种基准生成式概率模型用于弱监督学习

    本研究提出了基于生成模型的自动标注方法，通过弱监督学习去减轻手动标注的负担，取得了比现有方法更好的性能表现，提高了机器学习项目的生产效率。

    Mar, 2023

  • 弱监督升级为结构化预测

    在标签输出空间包含二进制或多类标签集以外的结构化预测情况下，本文介绍了一些技术基于伪欧几里得嵌入和张量分解，提供了几乎一致的噪声率估计，并针对常曲率黎曼流形引入了新的不变量作为一致的噪声率估计。

    Nov, 2022

  • 融合条件双模 GAN 和编程式弱监督

    我们通过使用标签模型生成的伪标签来实现一个噪声感知的分类器，利用噪声感知的分类器的预测结果训练标签模型并生成特定类别的图像。此外，我们还研究了在定义的不确定性预算内使用数据集子集来训练分类器对伪标签的影响。我们将该子集选择问题形式化为对伪标签熵的背包约束下的子模性最大化目标，进行了多个数据集的实验证明了我们方法相对于当前最先进的方法的有效性。

    Dec, 2023

  • 验证程序化弱监督的 Fréchet 界限估算

    我们开发了估算（可能是高维的）分布类的 Frechet 界的方法，其中一些变量是连续值。我们在边际约束的不确定性下建立了计算界限的统计正确性，并通过评估训练有程序化弱监督的机器学习模型（PWS）的性能来展示我们算法的有用性。

    Dec, 2023

  • AutoWS-Bench-101：基于 100 个标签的自动化弱监督基准测试

    AutoWS-Bench-101 框架用于评估自动 WS 技术在具有复杂或高维特征领域的各种应用程序中的应用效果，该研究的中心问题是比较或协作现代零样本或少样本学习器与自动 WS 技术的表现，发现在许多情况下，自动 WS 方法需要结合现代基础模型的信号才能胜过简单的少次学习基线。

    Aug, 2022