Oct, 2019

Facebook AI 的 WAT19 缅甸语 - 英语翻译任务提交

PDF
TL;DR本文描述了 Facebook AI 在 WAT 2019 缅甸语 - 英语翻译任务中的提交。我们运用基于 BPE 的 transformer 模型，探索了利用单语数据提高泛化能力的方法，包括自训练、回译和它们的组合。我们进一步通过使用噪声通道重排和集成来提高结果。我们证明了这些技术不仅可以显著提高使用额外单语数据训练的系统，而且还可以提高仅使用提供的小型平行数据集训练的基线系统。我们的系统在人类评估和 BLEU 方面均排名第一，在第二名系统上取得了超过 8 BLEU 分的优势。
发现论文，激发创造
  • Facebook AI 的 WMT20 新闻翻译任务提交

    本篇研究介绍了 Facebook AI 对 WMT20 共享新闻翻译任务的参赛，主要关注于资源有限的环境中，用多种策略和技术如自监督模型预训练、多语言模型、数据增强、标签数据微调等，以对目标新闻领域适应来应对低资源问题。在测试集上，我们的最佳提交系统分别取得 21.5 和 13.7 的 BLEU 得分，适用于 Ta→En 和 En→Ta，以及 27.9 和 13.0 的分数适用于 Iu→En 和 En→Iu。

    Nov, 2020

  • Facebook FAIR 的 WMT19 新闻翻译任务提交

    论文介绍了 Facebook FAIR 参与 WMT19 共享新闻翻译任务的成果，使用大型 BPE-based transformer 模型以及 back-translation 技术，通过加入不同的双语数据过滤方案和领域特定数据的 fine-tune 以及 noisy channel reranking 等方式进行了实验，所有四个方向的提交均在人类评估活动中排名第一，在 En->De 方向上明显优于其他系统和人类翻译。

    Jul, 2019

  • 微软亚洲研究院的 WMT19 系统

    微软研究亚洲在 WMT19 新闻翻译任务中使用 Transformer、反向翻译和知识蒸馏等技术并结合多智能体双向学习、掩码序列到序列预训练、神经架构优化及软性上下文数据增强等技术在 11 个语言方向中获得了 8 个方向的第一名。

    Nov, 2019

  • WMT21 的微信神经机器翻译系统

    本研究介绍了 WeChat AI 在 WMT 2021 共享新闻翻译任务中的参与，并使用 Transformer 等多种方法来生成大量的合成数据，从而实现英语到中文、英语到日语、日语到英语和英语到德语的翻译，通过使用高级微调方法和基于 Self-BLEU 的模型加强，得到了 36.9、46.9、27.8 和 31.3 的 BLEU 分数，其中英语到中文、英语到日语和日语到英语的 BLEU 分数是所有提交中最高的，而英语到德语的 BLEU 分数是所有有限制的提交中最高的。

    Aug, 2021

  • 微软提交 WMT2018 新闻翻译任务报告：如何不再担忧，爱上数据

    本文介绍了微软参加 WMT2018 新闻翻译共享任务的提交，对于英语到德语的一种语言方向中，基于最佳实践，采用了最先进的模型和新数据过滤和句子加权方法来训练在 Paracrawl 上实验结果表明，根据自动指标 (BLEU)，我们在此子任务中得分最高，比接下来最强大的系统高近 2 BLEU 分数，根据人工评估，我们在受限系统中排名第一，我们认为这主要是由于我们的数据过滤 / 加权组合的实施。

    Sep, 2018

  • Netmarble AI Center WMT21 自动后编辑共享任务提交

    本文介绍了 Netmarble 在 WMT21 自动后处理 (APE) 共享任务中的提交，旨在通过多种手段来改进机器翻译的质量，并通过实验证明其有效性。

    Sep, 2021

  • 悉尼大学参加 WMT19 的机器翻译系统

    本文介绍了悉尼大学参加 WMT 2019 共享新闻翻译任务的提交。通过将学术研究中的最新的有效策略（例如，BPE、回译、多特征数据选择、数据增强、贪婪模型集成、reranking、ConMBR 系统组合和后处理）与自注意力 Transformer 网络相结合，提出了一种新的增强方法 Cycle Translation 和数据混合策略大 / 小并行构建，全面利用合成语料库。大量实验证明，添加上述技术可以使 BLEU 分数不断提高，最佳结果比基准线（使用原始平行语料库训练的 Transformer 集成模型）的 BLEU 分数高出约 5.3 个 BLEU 分，达到最先进的表现。

    Jun, 2019

  • WMT 16 爱丁堡神经机器翻译系统

    我们参加了 WMT 2016 分享的新闻翻译任务，并为四种语言建立了神经翻译系统，每种语言都在英语和其它语言的两个方向上进行训练。使用了基于注意力的编码器 - 解码器、BPE 子词段和自动回译等技术，我们的方法使得我们的结果比基准系统提高了 4.3-11.2 BLEU，人工评估显示我们的系统在 8 个翻译方向中有 7 个是最好的约束系统。

    Jun, 2016

  • 爱丁堡大学 WMT17 神经机器翻译系统

    该论文介绍爱丁堡大学参加 WMT17 共享新闻翻译和生物医学翻译任务的情况，使用了采用 Nematus 注意力编码器 - 解码器训练的神经机器翻译系统，并对层归一化、深度结构和不同的集成技术进行了广泛的实验。

    Aug, 2017

  • BJTU-WeChat 的 WMT22 聊天翻译任务系统

    这篇论文介绍了北京交通大学和微信 AI 针对英德翻译任务提交 WMT'22 的联合研究，使用 Transformer 及其多种变体，并利用预训练和微调范式来提高翻译效果，并采用 speaker-aware 等效果，最终通过 boosted self-COMET-based 模型的 ensemble 获得了最高的 COMET 分数。

    Nov, 2022