ACLMay, 2023

D-CALM：基于动态聚类的主动学习方法降低偏差

PDF
TL;DR本文提出了一种新颖的自适应基于聚类的主动学习算法 D-CALM，通过将聚类与主动学习相结合，动态地调整聚类和注释工作以响应分类器错误率的估计。实验证明，D-CALM 可以显著优于基线主动学习方法，具有较强的鲁棒性并可以显著降低模型的不想要偏差。
nlp modelsbias mitigationactive learningclusteringd-calm
发现论文，激发创造
  • 地图学主动学习

    提出了一种名为 “Cartography Active Learning”(CAL) 的主动学习算法，该算法通过利用模型在单个实例上的行为作为代理来查找最具信息价值的实例进行标注。与其他常用的 AL 策略相比，CAL 是一种更有效的学习策略，可以通过利用小种子数据产生的训练动态来成功地进行 AL。

    Sep, 2021

  • CALICO：集成校准的自信主动学习

    提出了一种称为 CALICO 的主动学习框架，通过联合训练分类器和基于能量的模型来实现自校准的置信度，进而提高分类性能。

    Jul, 2024

  • 面向主观 NLP 任务的标注者中心主动学习

    利用主观自然语言处理任务进行准确的人类判断的关键是在注释过程中纳入广泛的视角。引入了注释者中心主动学习策略 (ACAL)，结合数据采样和注释者选择策略，旨在高效地近似获取人类判断的全面多样性，并使用注释者中心度量评估模型性能。对于七个主观自然语言处理任务进行了多种注释者选择策略的实验，同时采用了传统和新颖的以人为中心的评估指标。结果表明，ACAL 提高了数据效率并在注释者中心度量评估中表现出色，但其成功仍取决于足够大而多样的注释者样本池的可用性。

    Apr, 2024

  • 在主动学习中减轻采样偏差并提高鲁棒性

    该论文提出了简单而高效的方法来减轻主动学习中的采样偏差，同时实现最先进的精度和模型鲁棒性。通过引入有监督对比主动学习和选择具有多样的特性表示的信息性数据样本的无偏查询策略，我们的方法：SCAL 和 DFM，实验表明，所提出的方法降低了采样偏差，在主动学习设置中，查询计算速度比基于贝叶斯的对抗式学习快 26 倍，比 CoreSet 快 11 倍。所提出的 SCAL 方法在对抗性数据集转移和预测真实分布方面具有显着的优势。

    Sep, 2021

  • 基于聚类的主动学习与多样性探索缓解标注数据不足问题

    该论文提出了一种新的基于聚类的主动学习框架 (ALCS)，其中使用密度聚类方法探索数据的聚类结构，并引入基于双簇边界的样本查询程序以提高高度重叠类别分类的学习性能，此外，我们开发了有效的多样性探索策略来解决样本查询中的冗余问题，实验证明了该方法的有效性。

    Jul, 2022

  • BAL：平衡多样性和新颖性的主动学习

    通过自监督学习获取特征，利用聚类距离差异度量标识多样的数据，进而构建自适应子集来平衡多样和不确定的数据，该方法相对于已有的主流主动学习方法在广泛认可的基准测试上提高了 1.20% 的性能，同时在更大和更小的标注预算下也验证了该方法的有效性

    Dec, 2023

  • DIRECT: 不平衡和标签噪音下的深度主动学习

    通过一种新颖的算法 DIRECT，该论文提出了解决机器学习中不平衡问题的有效技术，通过收集更平衡和信息丰富的标记示例来进行注释，相较于现有算法，该算法节省了超过 15% 的注释预算。

    Dec, 2023

  • 利用连续学习技术加速批量主动学习

    本研究提出 Continual Active Learning（CAL）的概念，结合现有和新开发的基于回放的多样化技术，能有效解决 Active Learning 中重新训练以及忘记旧数据等问题，从而能在保持性能的同时大幅度减小训练时间。

    May, 2023

  • 面向可计算的深度主动学习

    该研究介绍了两种用于文本分类和标记任务的技术，可以显著减少深度学习中主动学习繁重的计算资源需求，通过伪标签和蒸馏模型实现更高性能的模型训练。

    May, 2022

  • 标注与否：用于神经机器翻译的混合主动学习

    提出了一种混合主动学习策略 HUDS，用于神经机器翻译中的领域适应，通过结合不确定性和多样性来选择待注释的句子，实验证明 HUDS 比其他强基线方法更好地提升了性能。

    Mar, 2024