EMNLPSep, 2021

HintedBT：利用质量和音译提示增强的回译

PDF
TL;DR提出了一种基于 Back-translation 的数据增强技术 HintedBT，并将其应用于低资源语言和异文翻译任务中，通过在编码器和解码器中添加标签提供相关信息，有效提高了翻译质量。
发现论文，激发创造
  • 神经机器翻译中预训练和反向翻译之间的互补性

    本研究探讨了预训练和回译方法对神经机器翻译的性能提升效果，发现预训练对编码器模块的贡献更大，回译对解码器模块的性能提升更为明显，两种方法相互补充，使得在 WMT16 英 - 罗马尼亚语和英 - 俄语翻译语料库中取得了最先进的翻译效果。

    Oct, 2021

  • 利用课程学习提升无监督神经机器翻译的性能

    通过提出一种课程学习方法，将从多个粒度发现语料库中的质量，逐渐利用从易到难的数据，通过平衡不同部分的质量得分，推动模型关注更高质量的数据，从而显著提高无监督神经机器翻译的翻译性能.

    Sep, 2021

  • 无监督机器翻译的快速反向翻译

    利用 Transformer 和反向翻译算法，以及引入 Quick Back-Translation (QBT) 的改进方法，提高无监督机器翻译的数据通量、利用率及训练效率。

    Dec, 2023

  • 关于后向翻译的合成数据

    通过理论和实证研究，我们确定了合成数据对回译神经机器翻译（NMT）性能的两个关键因素，即质量和重要性。基于我们的发现，我们提出了一种简单而有效的方法来生成合成数据，以更好地权衡这两个因素，从而为回译提供更好的性能。通过在 WMT14 的基准任务中运行广泛的实验，我们的回译模型显著优于标准的回译基线方法，证明了我们提出方法的有效性。

    Oct, 2023

  • 神经机器翻译中的反向翻译泛化

    本研究提出在跨熵优化的范畴中改进后向翻译，其涵盖包括从目标到源 NMT 模型中进行采样的更广泛的合成数据生成方案，并在 WMT 2018 德语 - 英语新闻翻译任务上验证了我们的陈述。

    Jun, 2019

  • 规模理解后向翻译

    使用单语数据生成目标语反向翻译的有效方法能够提高神经机器翻译质量。本研究比较了几种方法生成合成源句子的效果，发现使用采样或噪声束搜索的反向翻译方法效果最好，并证实这种合成数据的训练信号强于束搜索或贪婪搜索的数据，同时也比较了它们与真实的平行语料库的效果，并研究了不同领域对它们的影响。最终，将这种方法扩展到数亿条单语数据，获得了 35 BLEU 的 WMT'14 英德测试集上的最新记录。

    Aug, 2018

  • 利用自我训练增强低资源神经机器翻译的反向翻译

    利用自训练策略改进 Neural Machine Translation（NMT）模型，通过反向翻译技术来生成高质量的合成数据以训练标准翻译模型，可提高低资源下的翻译品质，提高翻译模型的 BLEU 值。

    Jun, 2020

  • 双向训练优化神经机器翻译

    通过双向的预训练策略，将神经机器翻译模型从'src -> tgt' 朝向'src + tgt -> tgt + src' 方向进行更新，成功地提升了神经机器翻译在 15 项任务上的表现，具有更好的双语对齐。

    Sep, 2021

  • 神经机器翻译中的回译研究

    本研究探讨了使用回译数据对 NMT 模型性能的影响，通过逐步增加回译数据来训练一系列以德语为源语言，以英语为目标语言的 NMT 系统，并分析了相应的翻译绩效。

    Apr, 2018

  • 关于使用回译训练的机器翻译系统的评估

    使用反向翻译作为数据增广技术可以提高自然文本和翻译文本的翻译质量，并且人类翻译者更喜欢反向翻译的产物，因为它们更加流畅，建议使用语言模型得分来衡量流畅度。

    Aug, 2019