Jan, 2024

具有可证明性能保证的弱监督学习者用于 AI 错误的修正

PDF
TL;DR通过引入具有先验性能保证的弱监督的 AI 错误修正器，我们提出了一种处理 AI 错误的新方法。这些 AI 修正器是辅助映射，其作用是通过批准或拒绝某些先前构建的基础分类器的决策来调节其决策。拒绝决策可以用作建议放弃做出决策的信号。该工作的关键技术重点是通过对错误决策概率的界限来提供这些新的 AI 修正器的性能保证。这些界限是分布无关的，不依赖于对数据维度的假设。我们的实证示例说明了该框架如何应用于改善训练数据稀缺的具有挑战性的现实任务中的图像分类器的性能。
发现论文，激发创造
  • 交互式弱监督：学习用于数据标注的有用启发式方法

    该研究论文展开了交互式弱监督学习框架的研究，该框架中，方法提议启发式方法并从用户每个被提议的启发式反馈中学习，其实验表明只需要少量的反馈迭代就可以训练模型达到高竞争的测试集性能，而不需要访问本文中使用的标签数据。

    Dec, 2020

  • AutoWS: 文本分类自动化弱监督框架

    提出了 AutoWS 框架用于增加弱监督过程的效率，减少对领域专家的依赖性，使用少量标记的实例和自动创建标注函数的方法来指定嘈杂标签，然后通过一个下游歧别分类器将其聚合成概率标签。

    Feb, 2023

  • 使用弱监督学习进行缺陷检测

    本文论述了弱监督学习技术在缺乏大量标注数据情况下替代传统有监督学习的可行性，并以缺陷检测任务为例，在图像数据集上对弱监督分类器和有监督分类器的准确性、精度和召回率进行对比实验，结果表明弱监督分类器相对于有监督分类器需要更少的标注数据，但其性能表现相当。

    Mar, 2023

  • 弱监督学习的约束标注

    本文提出了一种基于约束空间的弱监督学习方法，将不同的弱监督信号结合起来进行训练，在文本分类和图像分类任务中优于其他方法。

    Sep, 2020

  • 控制性弱监督训练神经网络：避免重复导师的错误

    该研究提出了一种半监督学习方法，利用一个 “目标网络” 和一个 “置信网络” 进行多任务训练，在大量弱注释未标注数据上优化目标网络，同时用置信网络的分数来加权目标网络的梯度更新，以避免噪声标签对目标网络模型的质量造成损害，并在评估中证明其相对基线的性能得到提高，同时从弱标签中提高了学习速度。

    Nov, 2017

  • 使用多任务弱监督训练复杂模型

    文章提出了一种基于多任务弱监督的矩阵补全方法，通过建立弱监督任务之间的相关性解决弱监督准确性低的问题，从而提高模型训练的效果。实验结果表明，与传统的有监督方法相比，该方法能平均提高 20.2% 的准确率。

    Oct, 2018

  • 弱监督自训练

    本文提出一种基于弱监督、自训练、规则注意力网络和半监督学习的框架（ASTRA），利用所有可用数据来进行深度学习任务的训练，证明其在文本分类上有显著优势。

    Apr, 2021

  • 端到端弱监督

    通过聚合多个弱监督数据源，本研究提出一种直接使用神经网络重参数化概率先验标签，从而直接学习下游模型的端到端方法，取得了端模型性能和弱监督数据依赖性方面的改进。

    Jul, 2021

  • 使用形式化数学开发无缺陷的机器学习系统

    通过可交互的证明助手，开发者能够证明机器学习系统的正确性，这种方法暴露了所有的实现错误，并通过 Certigrad 实现了优化的随机计算图，并生成了一个机器可验证的证明，证明了系统采样的梯度是数学梯度的无偏估计方法。

    Jun, 2017

  • (机器) 学会做更多的事情，更少的资源

    本文比较了利用事件真值标签和利用类别比率这两个训练机器学习算法的方式，发现弱监督方法能够在信息不足的情况下提供令人满意的性能，并且在粒子物理学中得到了应用。实验证明，弱监督神经网络对于训练样本被误分类的问题具有极强的鲁棒性，并且与全监督神经网络相比可以探测到不同的运动学参数，表现出不同的事件级输出。由此，我们可以通过结合两种类型的网络输出来提高机器学习算法的分类能力。

    Jun, 2017