Oct, 2020

超越以英语为中心的多语言机器翻译

PDF
TL;DR本研究建立了一种真正的 Many-to-Many 多语言翻译模型，可以直接在 100 种语言之间进行翻译，并通过密集扩展和语言特定的稀疏参数提高模型质量，优于 WMT 单一系统的表现。
multilingual machine translationmany-to-many translation modeldense scalinglanguage-specific sparse parametersnon-english-centric models
发现论文，激发创造
  • 大规模多语言神经机器翻译

    本文探讨了多语种神经机器翻译的极限，通过实验培训了适用于 102 种语言的模型，并在 59 种语言上表现出了优异的翻译效果，表明大规模多语种神经机器翻译模型对低资源环境下的翻译质量有积极支持和刺激。

    Feb, 2019

  • 完整的多语种神经机器翻译

    本文着眼于多语种神经机器翻译模型在英语为中心的双语语料库上的训练，结合多方对齐的语料库重新构建了完整图模型，展示了该模型在多语种翻译中的有效性和竞争力。

    Oct, 2020

  • 构建可提供任意 X-Y 翻译的多语言机器翻译系统

    本文旨在讨论如何通过两阶段训练策略实现多语言神经机器翻译系统，以解决低效率的问题，并在 WMT'21 多语言翻译任务中进行实验验证，证明我们的系统在大多数方向上优于基线模型，并且不需要架构修改或额外数据收集。

    Jun, 2022

  • 探索有监督学习和自监督学习之间的协同作用：迈向多语言机器翻译的下一个 1000 种语言

    通过混合监督和自我监督目标的方法，实现了覆盖数百种语言的多语言机器翻译模型的构建，该方法可在零资源情况下生成高质量翻译，甚至超过低 - 中资源语言的监督翻译质量。

    Jan, 2022

  • 使用大语言模型引导多语言语义分析器

    使用大型语言模型通过少量提示将英文数据集转化为多种语言，以实现多语言语义解析，并在两个公共数据集上与传统的翻译 - 训练方法进行比较，表明使用 LLM 更有效。

    Oct, 2022

  • 多语言到英语机器翻译工具、数据和预训练模型

    本文提出三种工具：MTData、NLCodec 和 RTG，设计一个能够从 500 种源语言翻译成英语的多语言神经机器翻译模型，支持语言种类很多，且模型容易下载和使用。

    Apr, 2021

  • 基于深度多任务学习的双语稀缺情境神经机器翻译

    本文提出了一种基于多任务学习方法，利用源端的单语言语言资源来解决神经机器翻译中由于缺少平行文本造成模型质量差的问题，并采用语义分析、句法分析和命名实体识别等辅助任务以将语义和 / 或句法知识注入到翻译模型中，实现了在英法、英波斯和英越三种翻译任务上的有效性验证。

    May, 2018

  • 野外大规模多语言神经机器翻译：发现与挑战

    我们致力于构建一款通用的神经机器翻译系统，通过构建一个单一的大规模多语言 NMT 模型，实现了 103 种语言之间的翻译，带有有效的迁移学习能力，显着提高了低资源语言的翻译质量，同时保持高资源语言翻译质量与竞争双语基线相当，为实现通用 NMT 模型的质量和实用性提供了多个方面的模型构建分析，并指出未来研究的方向和需进一步解决的问题。

    Jul, 2019

  • 改进大规模多语言神经机器翻译和零样例翻译

    本文探讨了如何改善大规模多语言神经机器翻译模型的性能，并提出了加强模型能力、引入语言特定组件和加深神经机器翻译结构以支持具有不同类型学特征的语言对，同时通过随机在线回译来解决离线训练中未出现的语言对翻译问题。实验结果表明，本方法在一对多和多对多设置中缩小了双语模型的性能差距，并将零 - shot 表现提高约 10 BLEU，接近传统的基于中间语言的方法。

    Apr, 2020

  • 多对多多语言神经机器翻译的对比学习

    本论文旨在建立一个多对多的机器翻译系统，重点关注非英语语言方向的质量。为此，我们提出了一种训练方法 mRASP2，通过对不同语言的表示进行对比学习和数据增强来获得单一统一的跨语言翻译模型，该模型在英语为中心的方向中表现优异，在非英语方向中比多语言 Transformer 基准模型提高 10+ BLEU 分数。

    May, 2021