AAAIDec, 2021

面向频率的对比学习在神经机器翻译中的应用

PDF
TL;DR本文提出一种基于词频感知的令牌级对比学习方法，旨在从表示学习角度解决现代神经机器翻译系统中低频词预测的挑战。经实验证明，所提出的方法不仅可以显著提高翻译质量，还可以增加词汇多样性并优化词表示空间。与相关的自适应训练策略相比，该方法在不牺牲精度的前提下提高了低频词汇量的召回率稳健性。
neural machine translationlow-frequency word predictionfrequency-aware token-level contrastive learninglexical diversityword representation space
发现论文，激发创造
  • 神经机器翻译的 Token 级自适应训练

    本文研究了神经机器翻译中的令牌不平衡现象，并提出采用基于目标令牌频率的目标令牌级自适应目标来训练模型，以提高翻译质量和提高翻译词汇的多样性。结果表明，与基线相比，在包含更多低频词汇的句子中，分别可以获得 1.68，1.02 和 0.52 的 BLEU 增益。

    Oct, 2020

  • 将离散的翻译词典融入神经机器翻译

    本文提出使用离散的翻译词典，通过使用 NMT 模型的 attention 向量选择需要聚焦的源单词的词典概率，从而缓解 NMT 在翻译低频词汇时出现的错误，并进行了两种方法的实验，结果显示翻译质量（BLEU）得分有明显提高。

    Jun, 2016

  • FRAGE: 频率无关字表示

    本文介绍了一种通过对抗性训练学习频率不可知词嵌入（FRAGE）的方法，可使得语义相似的高频和低频词语在同一词嵌入空间中，实验表明此方法在十种数据集上均优于基准。

    Sep, 2018

  • 神经机器翻译中的长尾现象

    本文提出一种新的损失函数 Anti-Focal loss，以更好地适应条件文本生成的结构依赖性，通过在训练过程中合并 beam search 的归纳偏差，从而定量化地表征 Token 分类和序列生成方面的长尾现象，在多个机器翻译数据集上表现出重要改进，特别是在生成低频词方面。

    Oct, 2020

  • 基于双语互信息的自适应神经机器翻译训练

    本文提出了一种新的双语互信息（BMI）自适应目标函数，通过从双语视角度量每个目标单词的学习难度并相应地分配自适应权重来改进基于令牌级别的自适应训练，实验结果表明与变压器基线和以前的令牌级别自适应训练方法相比，本方法优越性明显，并能够改善词汇多样性。

    May, 2021

  • 对比对齐何时提高多对多神经机器翻译的效果？

    在许多对多神经机器翻译中，使用单词级对比目标来利用单词对齐具有 0.8 BLEU 提升，并发现编码器的句子检索性能与翻译质量高度相关，这解释了所提出方法的影响所在，从而为未来的深入研究提出了动机。

    Apr, 2022

  • 通过在神经机器翻译训练中使用对比标记来增强监督学习

    本文提出了一种新的监督学习方法，通过对标准最大似然估计方法进行对比标记优化，特别适用于从修改后的翻译中学习，进一步提高了神经机器翻译的性能。

    Jul, 2023

  • 定向困难词汇的神经机器翻译反向抽样

    该研究探讨了逆向翻译的不同方面，并表明在训练期间预测损失高的单词最能从合成数据的添加中获益。使用以困难预测单词的预测损失和单词频率的采样策略，以及类似背景的选取句子的策略比随机采样的逆向翻译方法在 WMT 新闻翻译任务中提高了翻译质量。在德语 - 英语和英语 - 德语方向上，翻译质量分别提高了 1.7 和 1.2 BLEU 分数。

    Aug, 2018

  • 神经机器翻译的训练和推理之间的缩小差距

    本研究针对神经机器翻译存在的训练误差积累和过度校正问题，提出了一种从训练模型的预测序列中采样上下文词并使用句子级优化方法选择预测序列的训练策略，并在中英互译和 WMT'14 英德互译数据集上得到了显著提高。

    Jun, 2019

  • 利用检索到的翻译片段指导神经机器翻译

    通过搜索引擎检索以前见过的语句，然后提取这些语句中与源语句匹配的 $n$-grams 以实现将历史翻译例子加入到神经机器翻译模型中，因此提高翻译效果。

    Apr, 2018