Jun, 2022

低资源机器翻译中的后向翻译多样性探究

PDF
TL;DR本研究提出比以往更细致的 “多样性” 框架，将其分为词汇和句法多样性，并针对低资源和中资源机器翻译任务，提出创新的度量标准用于衡量这些不同方面的多样性。实证分析表明，使用核采样生成反向翻译能够提高最终模型性能，并且这种生成方法具有很高的词汇和句法多样性。研究还发现证据表明词汇多样性比句法多样性更重要。
back translationneural machine translationdiversitylexical diversitysyntactic diversity
发现论文，激发创造
  • 低资源机器翻译中的语法差异处理

    本文提出一种简单但有效的方法，即将目标语句重新排序以匹配源语序，并将其作为另外一种训练时的监督信号，从而在模拟低资源日语 - 英语和真实低资源维吾尔 - 英语语种中获得显着改进。

    Aug, 2019

  • 利用双语词典进行低资源半监督神经机器翻译

    本研究提出了一种基于双语词典的数据增强技术，使得机器翻译模型能够扩展词汇表而不会影响低资源环境下的合成句子的质量，我们的方法在性能上表现出可观的改进。

    Apr, 2020

  • 从多个来源选择回译数据以改进神经机器翻译

    本文提出了使用不同的机器翻译方法进行回译来生成合成训练语料，并使用数据选择策略来优化其性能，进而提高低资源语言的机器翻译质量。结果表明，这种方法可以有效地提升机器翻译的性能。

    May, 2020

  • 规模理解后向翻译

    使用单语数据生成目标语反向翻译的有效方法能够提高神经机器翻译质量。本研究比较了几种方法生成合成源句子的效果，发现使用采样或噪声束搜索的反向翻译方法效果最好，并证实这种合成数据的训练信号强于束搜索或贪婪搜索的数据，同时也比较了它们与真实的平行语料库的效果，并研究了不同领域对它们的影响。最终，将这种方法扩展到数亿条单语数据，获得了 35 BLEU 的 WMT'14 英德测试集上的最新记录。

    Aug, 2018

  • 定向困难词汇的神经机器翻译反向抽样

    该研究探讨了逆向翻译的不同方面，并表明在训练期间预测损失高的单词最能从合成数据的添加中获益。使用以困难预测单词的预测损失和单词频率的采样策略，以及类似背景的选取句子的策略比随机采样的逆向翻译方法在 WMT 新闻翻译任务中提高了翻译质量。在德语 - 英语和英语 - 德语方向上，翻译质量分别提高了 1.7 和 1.2 BLEU 分数。

    Aug, 2018

  • 提高英语到提格里尼亚语翻译质量的数据增强技术探索

    本文主要研究神经机器翻译在低资源条件下的表现，提出通过对目标语句子进行回译生成人工数据的方法，并以提取 Tigrinya 语言为案例，研究了多种回译方法，最终发现及时利用中间语言进行回译是在低资源条件下提高性能的最有效方法。

    Mar, 2021

  • 神经机器翻译合成数据中的领域、翻译语体和噪声

    通过利用附加单语资源来创建合成训练数据，可以提高神经机器翻译的质量，本文探讨了前向翻译和反向翻译在翻译源语句子和目标语句子时的优点，并研究了不同地域、语言和噪音环境下翻译的影响。另外，本文还给出了低资源情况下前向和反向翻译的比较。

    Nov, 2019

  • 低资源神经机器翻译的数据增强

    本研究提出了一种以数据增强为基础的方法，针对低频词汇在合成的新语境中生成新的句子对，以提高神经机器翻译系统的翻译质量。在模拟低资源环境中的实验结果显示，相对于基准和回译方法，我们的方法能够提高翻译质量，最高可提高 2.9 BLEU 分数。

    May, 2017

  • 数据多样化：神经机器翻译的简单策略

    通过使用多个前向和反向模型的预测结果来实现数据多样化， Data Diversification 是一种简单但有效的策略来提高神经机器翻译性能，它在不增加计算量和参数的情况下，适用于所有 NMT 模型，并在 WMT'14 英语 - 德语和英语 - 法语翻译任务中突破了最新的 BLEU 得分，并在 8 个其他翻译任务中取得了显著进展，它比知识蒸馏和双向学习更有效，并以牺牲复杂度换取更好的 BLEU 得分.

    Nov, 2019

  • 使用回译的数据增强方法应用于低资源的命名实体识别

    本文提出了基于回译技术的数据增强策略，用于命名实体识别任务的低资源域，实验结果表明该方法在材料科学和生物医学领域中均表现出了高效的性能。

    Aug, 2021