ICLRJun, 2023

利用辅助领域并行数据进行中间任务微调，用于低资源翻译

PDF
TL;DR本文研究表明，在缺乏足够的平行数据进行微调的情况下，基于预训练多语言序列 - 序列（PMSS）模型训练的 NMT 系统会受到影响，尤其是这些模型中缺少或代表不足的语言。当数据来自不同的领域时，问题会加剧。本文表明，对 PMSS 模型进行中间任务微调（ITFT）对于特定领域的 NMT 非常有益，特别是当目标领域数据有限 / 不可用并且所考虑的语言在 PMSS 模型中缺失或代表不足时。我们使用领域分歧测试量化领域特定的结果变化，并显示 ITFT 可以在一定程度上缓解领域分歧的影响。
nmtpmss modelsfine-tuningdomain-specificitft
发现论文，激发创造
  • 通过多语言转移学习利用跨领域平行数据进行低资源神经机器翻译的开发

    本文提出了一种新的多语种多阶段微调方法，融合了领域自适应、多语言和反向翻译，通过利用域外数据的转移学习方法来帮助改善日俄低资源神经机器翻译的质量。

    Jul, 2019

  • 低资源领域适应的多阶段预训练

    本文研究使用预训练语言模型的转移学习、领域特定术语扩展词汇表以及利用未标记数据结构创造辅助合成任务等方法，在 IT 领域的三个任务中，采用逐步应用的策略在预先训练的 Roberta-large LM 上显示出显着的性能提升。

    Oct, 2020

  • 神经机器翻译简单领域适应方法的实证比较

    本文提出了一种新颖的领域自适应方法 ——“混合微调”，用于神经机器翻译。该方法将微调和多领域 NMT 两种现有方法相结合，并在一个混合了内外领域语料库的平行语料库上对 NMT 模型进行微调，然后通过增加人工标记来指示特定领域对所有语料库进行增强。我们在实证基础上比较了我们的方法与微调和多领域方法，讨论了它的优点和缺点。

    Jan, 2017

  • 针对机器翻译的领域特定文本生成

    本研究提出了一种利用预训练语言模型进行领域特定数据增强的领域自适应新方法，通过该方法，配合回译技术，可生成大量合成双语的领域内数据，从而显著改进了机器翻译的领域内文本的翻译效果。人工评估结果进一步证实了自动评估结果的准确性。

    Aug, 2022

  • 预训练多语言神经机器翻译模型的鲁棒领域自适应

    本文提出一种将多语言神经机器翻译模型域自适应的 Fine-tuning 方法，结合 Embeddings 冻结与对抗性损失，能在保持所有语言对的通用领域性能的同时，显著提高处理特定数据领域的性能。

    Oct, 2022

  • 元学习用于多领域文本挖掘的神经语言模型的微调

    本文提出了一种名为 Meta Fine-Tuning (MFT) 的有效学习过程，该过程可作为元学习器解决多个相似的自然语言处理任务，以获取高度可转移的知识，并通过优化一系列新颖的领域破坏损失函数来鼓励语言模型对领域不变表示进行编码。实验证明，MFT 对于小样本学习具有很大的用途。

    Mar, 2020

  • 神经机器翻译中低资源域适应的正确配方寻找

    本研究探讨了针对预训练第三方 NMT 模型的单语和平行数据方法在领域适应中的效果，在低资源条件下提出了集成方法来缓解翻译质量的降低，并给出了在三个领域和四个语言对中的建议。

    Jun, 2022

  • 中间任务训练对于域自适应和跨语言迁移学习的（无）效性

    本文分析了使用三种大型语言模型 BERT、RoBERTa 和 XLNet 在文本分类、情感分析、句子相似度三个自然语言处理任务上进行领域内和跨语言适应的迁移学习，并发现大多数任务直接进行微调而不进行中间任务训练可以获得更好的性能，而更广义的任务可能需要先进行中间任务训练。该工作有望成为 NLP 实践者进行迁移学习的指南。

    Oct, 2022

  • 通过词表归纳进行神经机器翻译的领域适应

    本文提出了一种无监督的自适应方法，使用伪域内语料库通过微调预先训练的域外 NMT 模型，借助词典诱导提取域内词汇，并通过针对性的单语域内目标句子进行逐词反向翻译构建伪平行域内语料库，在 20 对自适应设置和两种模型架构的五个领域中，我们的方法始终显示出提高，而不需要使用任何域内平行句子，改进了未经过调整的模型高达 14 BLEU 和强反向翻译基线的最高 2 BLEU。

    Jun, 2019

  • 神经机器翻译的简单可扩展自适应性

    本研究提出了一种简单而有效的适应 NMT 模型的方法，该方法是将微小的任务特定适配层注入预训练模型，能够同时适应多个不同的任务，并在两项任务中得到了验证，理论与全面的微调相当。

    Sep, 2019