Aug, 2023

神经机器翻译中的负面词汇约束

PDF
TL;DR本文探讨了英文到捷克语神经机器翻译中的负面词汇限制。我们比较了基于修改解码过程或训练数据的各种方法，并在改写和基于反馈的翻译改进两项任务上进行了对比。我们还研究了这些方法在多大程度上 “回避” 了向模型提供的限制（通常以字典形式呈现），通过产生给定限制的不同的表面形式来绕过约束。我们提出了一种通过训练受到词干化负面约束的方法，以抵消模型诱导单词的多种表面形式的能力，从而改善了限制效果，尽管问题在许多情况下仍然存在。
negative lexical constrainingneural machine translationdecoding processtraining dataparaphrasing
发现论文，激发创造
  • 带有噪声词汇约束的神经机器翻译

    本文提出了一种新的框架，将用户提供的限制条件作为外部记忆存储，并以柔性方式进行处理，从而解决在现实世界中限制条件可能存在的问题，实验结果表明，我们的方法能够在处理嘈杂的限制条件时取得相当大的 BLEU 收益，这些结果使我们能够将所提出的方法应用于不需要用户帮助生成限制条件的新场景中并证明了该方法确实能够提高自动生成的约束下的翻译质量。

    Aug, 2019

  • 鼓励神经机器翻译满足术语限制

    本文提出了一种新的方法，通过训练步骤来鼓励神经机器翻译满足词汇约束，其主要包括训练数据扩充、约束词汇掩码和交叉熵损失函数修改三个方面，实验表明该方法在 BLEU 分数和生成约束词汇的数量方面均优于其他算法。

    Jun, 2021

  • 利用 Levenshtein 变换的受词汇约束的神经机器翻译

    本文提出了一种在神经机器翻译中加入词汇约束的简单有效算法，该算法可以在推理时注入术语约束，而不影响解码速度，并且无需修改训练流程，使用自定义字典即可运行，实验结果表明，我们的方法在英德 WMT 数据集上可以提高基线和之前方法的翻译质量。

    Apr, 2020

  • 训练神经机器翻译应用术语约束

    本文提出了一种新颖的方法，在神经机器翻译中运行时注入自定义术语。作者通过训练神经机器翻译系统学习如何在输入时使用自定义术语，并比较实验证明这种方法不仅更有效，而且与自由约束解码一样快。

    Jun, 2019

  • 基于规则的形态学变化改善神经术语翻译

    论文提出了一种模块化框架，可以用来在神经机器翻译中灵活地应用语言学知识和不同类型的神经机器翻译模型，特别是设计了用于领域适应和低资源机器翻译设置的英德医疗和英立新闻测试套件，结果表明，我们的基于规则的屈折模块比神经模块更准确地引入了引文限制，并且在低成本的训练下优于现有的端到端方法。

    Sep, 2021

  • 自动后编辑中的术语限制

    本文提出了自回归模型和非自回归模型用于词汇约束的自适应编辑，实验表明可保留 95% 的术语并提高英德基准翻译质量；虽然应用于词汇约束 MT 输出，但模型学习不会系统地复制约束，因此提出并使用简单的数据增强技术以提高性能和鲁棒性。

    Oct, 2020

  • 神经机器翻译中集成向量化词汇约束

    该研究提出了一种直接将词汇约束集成到神经机器翻译模型中的方法，通过将词汇约束向量化为连续的键和值，并利用 NMT 模型的注意力模块来表征词汇约束对，并在四种语言对上表明了该方法的优越性。

    Mar, 2022

  • 词汇消歧约束的神经机器翻译

    本文介绍了一种基于上下文的约束消岐技术，提出了一种称为 D-LCNMT 的框架，使得预先指定的词汇约束在真实世界的情境中更加合适和精确，实验证明该方法在数据扩充和多个目标约束词汇方面优于先前的方法。

    May, 2023

  • 利用显式负例提高神经语言模型语法能力的实用性分析

    使用否定例子训练神经语言模型，通过添加边际损失增强模型对特定句法结构的鲁棒性表现，研究发现适当使用否定例子提高模型的鲁棒性，具有可行性，但是该方法在处理宾语从句时还存在困难。

    Apr, 2020

  • 使用术语约束的神经机器翻译解码

    本研究描述了基于有限状态机和多堆栈解码的受约束神经机器翻译解码方法，支持目标端约束以及对应对齐输入文本跨度的约束条件，在多个翻译任务上表现出较好的性能，通过注意力受约束解码的方式减少用户约束翻译时的错置和重复。

    May, 2018