EMNLPAug, 2018

规模理解后向翻译

PDF
TL;DR使用单语数据生成目标语反向翻译的有效方法能够提高神经机器翻译质量。本研究比较了几种方法生成合成源句子的效果，发现使用采样或噪声束搜索的反向翻译方法效果最好，并证实这种合成数据的训练信号强于束搜索或贪婪搜索的数据，同时也比较了它们与真实的平行语料库的效果，并研究了不同领域对它们的影响。最终，将这种方法扩展到数亿条单语数据，获得了 35 BLEU 的 WMT'14 英德测试集上的最新记录。
neural machine translationback-translationsynthetic datatraining signalwmt'14
发现论文，激发创造
  • 利用自我训练增强低资源神经机器翻译的反向翻译

    利用自训练策略改进 Neural Machine Translation（NMT）模型，通过反向翻译技术来生成高质量的合成数据以训练标准翻译模型，可提高低资源下的翻译品质，提高翻译模型的 BLEU 值。

    Jun, 2020

  • 定向困难词汇的神经机器翻译反向抽样

    该研究探讨了逆向翻译的不同方面，并表明在训练期间预测损失高的单词最能从合成数据的添加中获益。使用以困难预测单词的预测损失和单词频率的采样策略，以及类似背景的选取句子的策略比随机采样的逆向翻译方法在 WMT 新闻翻译任务中提高了翻译质量。在德语 - 英语和英语 - 德语方向上，翻译质量分别提高了 1.7 和 1.2 BLEU 分数。

    Aug, 2018

  • 从多个来源选择回译数据以改进神经机器翻译

    本文提出了使用不同的机器翻译方法进行回译来生成合成训练语料，并使用数据选择策略来优化其性能，进而提高低资源语言的机器翻译质量。结果表明，这种方法可以有效地提升机器翻译的性能。

    May, 2020

  • 神经机器翻译中的回译研究

    本研究探讨了使用回译数据对 NMT 模型性能的影响，通过逐步增加回译数据来训练一系列以德语为源语言，以英语为目标语言的 NMT 系统，并分析了相应的翻译绩效。

    Apr, 2018

  • 神经机器翻译中的单语数据使用：一项系统研究

    本文对神经机器翻译的数据生成进行了系统研究，比较了不同的单语数据使用方法和多个数据生成过程，并介绍了一些便宜易实现的新数据模拟技术。研究发现，通过回译技术生成人工平行数据非常有效，并给出了原因解释。

    Mar, 2019

  • 神经机器翻译合成数据中的领域、翻译语体和噪声

    通过利用附加单语资源来创建合成训练数据，可以提高神经机器翻译的质量，本文探讨了前向翻译和反向翻译在翻译源语句子和目标语句子时的优点，并研究了不同地域、语言和噪音环境下翻译的影响。另外，本文还给出了低资源情况下前向和反向翻译的比较。

    Nov, 2019

  • 神经机器翻译中的反向翻译泛化

    本研究提出在跨熵优化的范畴中改进后向翻译，其涵盖包括从目标到源 NMT 模型中进行采样的更广泛的合成数据生成方案，并在 WMT 2018 德语 - 英语新闻翻译任务上验证了我们的陈述。

    Jun, 2019

  • 无标签回译

    研究发现，采用无标记的反向翻译方法可以有效地从大量单语数据中生成平行句子，进而提高神经机器翻译的效果。该方法能够消除标记语境的需求，并在低资源的英越和英德神经机器翻译任务上表现出比标准方法和标记方法更好的性能。

    Dec, 2019

  • 双向神经机器翻译与合成平行数据

    本论文提出一种结合了回译和多语言神经机器翻译技术的新技术，通过为一个语言对训练一个模型来改善在低资源和跨领域情况下的机器翻译效果，并且能显著降低培训和部署成本。

    May, 2018

  • 元背译

    本文提出了一种基于元学习的算法，通过调整预先训练的 back-translation 模型来生成伪平行数据，用于训练前向翻译模型，并在 WMT 数据集和多语言翻译中实现了显著的改进。

    Feb, 2021