UXLA：零资源跨语言自然语言处理的强大无监督数据增强框架

ACLApr, 2020

UXLA：零资源跨语言自然语言处理的强大无监督数据增强框架

UXLA: A Robust Unsupervised Data Augmentation Framework for Zero-Resource Cross-Lingual NLP

M Saiful Bari, Tasnim Mohiuddin, Shafiq Joty

TL;DR提出了 UXLA，一种新的无监督数据增强框架，用于零资源转移学习场景中的跨语言适应问题。UXLA 在三个不同的零资源跨语言转移任务上取得了 SOTA 结果，胜过基准线很多。

Abstract

transfer learning has yielded state-of-the-art (SoTA) results in many supervised nlp tasks. However, annotated data for every target task in every target language is rare, especially for low-resource languages. W

transfer learning unsupervised data augmentation cross-lingual adaptation zero-resource learning nlp

发现论文，激发创造

零资源环境中跨语言序列标注的模型和数据传递

本文通过实验证明使用高容量多语言语言模型应用于零样本（基于模型的跨语言转移）情况下能够比基于数据转移更好地执行跨语言序列标注，这可能是由于语言使用的重要差异所致。

Oct, 2022

自我增强提高零 - shot 跨语言迁移

提出一种称为 SALT 的简单而有效的方法，结合了代码混合和嵌入混合自增强，通过从多语言预训练语言模型中提取跨语言知识并增强其在下游任务中的可转移性，改进了零射击跨语言转移能力，而无需外部数据。

Sep, 2023

XLDA：基于跨语言数据增强的自然语言推断与问答

介绍了一种名为 XLDA 的跨语言数据增强方法，该方法通过替换输入文本中的部分内容为另一种语言的翻译来改善跨语言自然语言推理任务的性能，在 14 种语言的测试中均获得了提升，并在希腊语、土耳其语和乌尔都语方面取得了最好的性能，且远优于其他方法。

May, 2019

ZGUL：使用多源适配器的零样本泛化到未见过的语言

通过使用语言适配器（LAs）解决 NLP 任务中的零射击跨语言转移问题，并结合多个源语言的语言适配器进行训练和测试，展示了在 POS 标注和 NER 任务上相对标准微调和其他强基线模型平均 F1 分数提高了 3.2 个点的改进。

Oct, 2023

通过带不确定性估计的自我学习提升跨语言迁移

提出了一种基于自学习的框架，结合目标语言的未标记数据和不确定性评估方法，使用三种不同的不确定性评估方法对跨语种传递的具体情况进行了分析，并在包括 40 种语言的两个跨语种任务中评估了该框架，其中包括命名实体识别和自然语言推理，并在 NER 和 NLI 方面的平均性能分别超过了 10 F1 和 2.5 准确度得分的基线模型。

Sep, 2021

UniPSDA: 无监督伪语义数据增强在零样本跨语言自然语言理解中的应用

通过无监督的伪语义数据增强机制，提出了一种跨语言自然语言理解方法，细化了语义数据，同时进行多语言知识注入和消除偏倚技术优化，从而有效改善了零对齐跨语言自然语言理解任务的性能。

Jun, 2024

低资源自然语言理解的有效迁移学习

本论文旨在解决 NLU 模型在缺乏数据或知识资源时的挑战，提出了跨语言和跨域适应方法及面向低资源语言的关键词增强方法、序列颗粒化建模方法、多领域预训练方法和粗粒度到细粒度的表示学习框架。

Aug, 2022

利用多组噪声扩充数据进行跨语言口语理解的学习

本文提出了一种通过机器学习方法处理低资源语言中语音理解数据的方法，通过多个模型同时对不同扩充的训练数据对彼此提供监督信号，实现了对数据的去噪处理，在两个基准数据集上的实验结果表明，我们的方法优于现有技术达 3.05% 和 4.24% 的性能表现。

Sep, 2021

通用跨语言文本分类

通过优化现有标签 / 数据集，将不同语言的标签数据与训练相结合，以创建一个通用模型，从而增强标签和语言范围，实现跨语言的文本分类。

Jun, 2024

无平行语料的零样本跨语言迁移

通过使用预训练模型，我们提出了一种零样本跨语言转移的新方法，它能够在低资源语言上实现任务感知的双语信息对齐，并利用未标记数据进行自我训练，从而实现多种任务上的最新技术提升，无需并行语料库或翻译模型。

Oct, 2023