ACLJul, 2021

神经机器翻译预训练的复制行为研究

PDF
TL;DR本文研究了使用预训练语言模型来初始化神经机器翻译模型的好处，在发现预训练对机器翻译的副作用时，提出了一种名为 “copying penalty” 的方法来控制解码过程中的复制行为，实验证明，该方法可以提高预训练的机器翻译模型的翻译性能。
neural machine translationlanguage modelscopying penaltytranslation performancedecoding
发现论文，激发创造
  • 探索无监督的预训练目标对机器翻译的影响

    本文研究无监督跨语言预训练在神经机器翻译中的应用，通过对编码器输入进行屏蔽或者基于上下文重新排序和替换等不同预训练方法的比较，发现无监督机器翻译对预训练目标的敏感度较高，与有监督机器翻译相比，更需要具有强大跨语言能力的编码器模型。

    Jun, 2021

  • 防止神经机器翻译语言模型过度自信

    提出了一种基于 Margin 的 Token-level Objective（MTO）和 Margin-based Sentence-level Objective（MSO）方法，并在 WMT14 英德，WMT19 中英和 WMT14 英法翻译任务中取得了良好的效果。

    May, 2021

  • 基于跨语言预训练的零 - shot 神经机器翻译迁移

    通过跨语言预训练的双语预训练方法，建立了通用编码器，将传递者和接受者的语言空间对齐，使得零翻译成为可能。实验结果表明，该方法显著优于强的基准线和各种多语言 NMT 方法。

    Dec, 2019

  • 关于无监督 NMT 复制问题的训练进度与语言区分器损失

    本文提出一种简单且有效的训练方法，通过增加语言鉴别器的损失，来约束中间翻译结果的语言，从而减轻低资源语言翻译中常见的抄袭问题，并提升翻译表现。

    May, 2023

  • 低资源神经机器翻译的语言模型先验

    本文介绍了一种新的神经翻译模型加入语言模型的先验知识的方法，通过加入正则化项确保神经翻译模型输出分布在语言模型先验下的概率合理，而避免与语言模型的不一致。与先前的工作不同，该方法只在训练时使用语言模型，并不会降低解码速度，实验结果表明该方法适用于小数据量机器翻译任务。

    Apr, 2020

  • 利用 BERT 优化神经机器翻译

    本文介绍了一种有力的方法，将事先训练好的语言模型（LMs）与神经机器翻译（NMT）相结合，以解决当前 LM 微调应用于资源丰富任务时巨大遗忘的难题，并在机器翻译任务中取得了优越的成果。

    Aug, 2019

  • 预训练神经机器翻译模型的强化课程学习

    本文针对神经机器翻译中如何最佳利用具有多样性质和不同质量级别的数据样本提出了数据选择框架，通过筛选对模型性能有重要影响的样本来改进已经预先训练过的模型。实验表明，所提出的基于确定性演员 - 评论家 (Deterministic Actor-Critic) 的数据选择方法能够在不增加新的训练数据的情况下显著提高翻译质量，并大幅优于其他强基线方法。

    Apr, 2020

  • 使用人类偏好进行语言模型预训练

    通过在预训练中引入人类的反馈，实现对于语言模型的生成文本的可控和可导向性，减少哪些偏离人类喜好的内容的生成，并且在标准的预训练和任务特定的微调中保持下游任务表现。推荐在训练开始时，就结合人类反馈，不再使用模仿学习的方式预训练语言模型。

    Feb, 2023

  • 从预训练模型获取知识到神经机器翻译

    本文提出了一种 APT 框架，在神经机器翻译中利用预训练模型的语言知识，该框架包括两个模块：1）动态融合机制，将从通用知识中适应的任务特定特征融合到 NMT 网络中；2）知识蒸馏范式，在 NMT 训练过程中连续学习语言知识。实验结果表明，我们的模型优于强基线和微调对应模型。

    Dec, 2019

  • 低资源机器翻译的指针生成网络：不要复制！

    在低资源机器翻译中，通过 Transformer 网络结构的结构性快捷方式，如从源语言复制子词到目标语言，可以为近缘语言对之间的机器翻译提供微弱的改进，但并不展现与远缘语言对或低资源范围下相似语言对之间更强的改进，并且模型对于共享子词的机制使用并不如预期，这突显了低资源机器翻译领域面临的诸多挑战，如现代分词策略、嘈杂的真实环境和语言复杂性，并呼吁对 Transformer 模型进行更好的语言学动机改进的审视及对该领域上述问题的关注。

    Mar, 2024