标注与否：用于神经机器翻译的混合主动学习

Mar, 2024

标注与否：用于神经机器翻译的混合主动学习

To Label or Not to Label: Hybrid Active Learning for Neural Machine Translation

Abdul Hameed Azeemi, Ihsan Ayyub Qazi, Agha Ali Raza

TL;DR提出了一种混合主动学习策略 HUDS，用于神经机器翻译中的领域适应，通过结合不确定性和多样性来选择待注释的句子，实验证明 HUDS 比其他强基线方法更好地提升了性能。

Abstract

active learning (AL) techniques reduce labeling costs for training neural machine translation (NMT) models by selecting smaller representative subsets from unlabeled data for annotation. diversity sampling techni

active learning neural machine translation diversity sampling uncertainty sampling huds

发现论文，激发创造

基于聚类不确定性加权嵌入的主动域适应

研究针对域偏移的主动域适应问题，提出一种基于聚类的不确定性加权嵌入的标签获取策略，用于最大程度地获取信息，以便在图像分类中提高性能。

Oct, 2020

大型语言模型的自动学习方法

使用大型语言模型（GPT-3.5 和 GPT-4）进行标注，研究了主动学习中减少标注成本和采样效率的方法。采用混合注释策略，将可能标注错误的样本与人工注释相结合，可以在 AG 新闻和腐烂的番茄等数据集上取得与人工注释相似甚至更好的结果，证明了大型语言模型在主动学习中的准确性和成本效益。

Jan, 2024

多语言和多域神经机器翻译训练的不确定性平衡

本文介绍了一种能够动态调整训练数据使用的方法 MultiUAT，用于多语料机器翻译，通过信任的干净数据确定模型的不确定性，实现数据平衡，经过实验证明，MultiUAT 在多语言和多领域环境下都比现有方法表现更好。

Sep, 2021

低资源神经机器翻译的高性价比训练

提出了一种利用自监督学习和小规模词典来初始化神经机器翻译（NMT）模型，在初始化后使用主动学习策略提高低资源条件下（如稀缺语言）翻译模型性能的方法，并提出了一种基于领域适应的新型主动学习策略。除此之外，我们还表明，使用这种初始化方法和主动学习策略可相比于传统方法提高最多 13 个 BLEU 点。

Jan, 2022

双向基于不确定性的主动学习用于开放集标注

提出了一种双向不确定性主动学习（Bual）框架，通过将未知类别的样本推向具有高置信度预测的区域，并采用同时估计正负学习带来的不确定性的双向不确定性采样策略来实现从已知类别中获取高信息量样本，并在多个具有不同开放性的数据集上进行了广泛实验证明，BUAL 的性能达到了最先进水平。

Feb, 2024

利用不确定性和多样抽样的两步主动学习实例分割

我们提出了一种后期主动学习算法，该算法将基于不确定性的采样与基于多样性的采样相结合，不仅简单易实现，而且在各种数据集上都具有出色的表现，其实际应用在实际的高空图像数据集中增加了五倍的标注效率。

Sep, 2023

深度主动学习用于具多样化解释的文本分类

本研究提出了一种基于神经网络解释能力的主动学习方法 ALDEN，该方法可根据样本的多样性解释性选择样本并查询其标签，使得高质量模型的训练成为可能。实验证明，ALDEN 在文本分类问题上比其他主动学习方法表现更好。

Aug, 2021

D-CALM：基于动态聚类的主动学习方法降低偏差

本文提出了一种新颖的自适应基于聚类的主动学习算法 D-CALM，通过将聚类与主动学习相结合，动态地调整聚类和注释工作以响应分类器错误率的估计。实验证明，D-CALM 可以显著优于基线主动学习方法，具有较强的鲁棒性并可以显著降低模型的不想要偏差。

May, 2023

不确定性感知学习的语言模型对齐

我们提出了一种基于样本不确定性的学习方法，通过引入更能体现样本不确定性的模型，来改善不同任务情景下的模型对齐，实验证明我们的方法能显著提高模型性能和数据效率。

Jun, 2024

抽象文本摘要的主动学习

本文提出了第一个基于多样性原则的主动学习查询策略来缓解抽象文本摘要中昂贵的注释成本，并分析了自学习的效果。该策略可以帮助提高 ROUGE 和一致性分数。

Jan, 2023