基于子模块互信息的弱监督适用于冷启动主动学习

Feb, 2024

基于子模块互信息的弱监督适用于冷启动主动学习

STENCIL: Submodular Mutual Information Based Weak Supervision for Cold-Start Active Learning

Nathan Beck, Adithya Iyer, Rishabh Iyer

TL;DR利用 STENCIL 方法，在类不平衡冷启动环境下，通过选择一组弱标记的稀有类别实例并由注释者进行强标记来改善文本分类数据集的整体准确性和稀有类别的 F-1 分数，相对于常见的主动学习方法，STENCIL 方法提高了 10% 至 24% 的整体准确性和 17% 至 40% 的稀有类别 F-1 分数。

Abstract

As supervised fine-tuning of pre-trained models within NLP applications increases in popularity, larger corpora of annotated data are required, especially with increasing parameter counts in large language models. Active learning, which attempts to mine and annotate unlabeled instances

supervised fine-tuning active learning class imbalance text classification cold-start setting

发现论文，激发创造

自监督语言建模的冷启动主动学习

使用 BERT 预训练模型，通过最小化蒙版语言模型损失，实现在减少样本采样迭代和计算时间的同时，更高效地减少文本分类标注成本。

Oct, 2020

自我监督辅助主动学习用于皮肤病变分割

本文提出了一种新的自我监督辅助主动学习框架，用于解决生物医学图像分割中标签不足的问题，该方法使用自我监督特征聚类来选择样本，实验证明其可在皮肤病变分割任务上取得显著改进。

May, 2022

DIRECT: 不平衡和标签噪音下的深度主动学习

通过一种新颖的算法 DIRECT，该论文提出了解决机器学习中不平衡问题的有效技术，通过收集更平衡和信息丰富的标记示例来进行注释，相较于现有算法，该算法节省了超过 15% 的注释预算。

Dec, 2023

深度贝叶斯主动半监督学习

通过半监督深度学习与主动学习相结合的方法，使用尽可能少的标记样本，同时利用熵最小化对未标记样本进行训练，在 MNIST 数据集上仅使用 300 个标记样本实现 2.06% 的误差率和 1000 个标记样本实现 1.06% 的误差率。该方法可以获得高准确性的敏捷标注过程，同时节省标记成本。

Mar, 2018

大型语言模型的自动学习方法

使用大型语言模型（GPT-3.5 和 GPT-4）进行标注，研究了主动学习中减少标注成本和采样效率的方法。采用混合注释策略，将可能标注错误的样本与人工注释相结合，可以在 AG 新闻和腐烂的番茄等数据集上取得与人工注释相似甚至更好的结果，证明了大型语言模型在主动学习中的准确性和成本效益。

Jan, 2024

稀疏且噪音标注下的主动学习标签鲁棒分配

利用未标记的样本空间，我们提出了两种新的注释统一算法，旨在解决主动学习中存在的错误数据标注问题，并通过在四个公共数据集上的实验证明该方法在评估标注者可靠性和分配实际标签方面的鲁棒性和优越性，超过了现有算法和简单的多数投票。

Jul, 2023

主动学习提升弱监督的 WeaSuL 算法

本文介绍了一种新的机器学习辅助标注方法，即 Active WeaSuL。该方法使用专家定义的规则来估算整个数据集的概率标签，并在弱监督模型容易出错的几个点上迭代提供真实标签以优化模型性能。实验证明，Active WeaSuL 比其他方法更适用于获取标记数据困难的情况下。

Apr, 2021

ImageNet 规模下的主动学习

该研究通过将主动学习与自监督预训练相结合，并使用称为 Balanced Selection（BASE）的算法来解决类不平衡问题，提高图像分类性能，特别适用于工业级大规模数据标记和训练中。

Nov, 2021

基于一致性的半监督主动学习：朝着最小化标注成本

该论文提出了一种融合标注和模型训练的主动学习方法，结合半监督学习和基于一致性的样本选择度量，实现从未标注数据中选取最优数据来改善模型性能，在图像分类任务中实验结果显示出优异表现，同时探究了学习式主动学习方法的起点问题并提出了相关测量指标。

Oct, 2019

主动半监督学习的语义分割

提出了通过结合主动学习和半监督学习来减少标注样本数量的新算法，应用于语义分割任务取得了优异的成果。

Mar, 2022