Sep, 2022

Adam Mickiewicz University 在 WMT 2022 中的：NER 辅助和质量感知的神经机器翻译

PDF
TL;DR本文提出了 Adam Mickiewicz 大学对于 WMT 2022 通用机器翻译任务的限制性跟踪的提交结果，使用基于 transformer 架构的加权集成模型进行双向乌克兰语 <-> 捷克语翻译，使用源因子利用输入的命名实体信息，在训练数据之外使用噪声后向传递技术进行数据增强。使用 noisy back-translation 技术增加训练语料库。模型集成是由 4 个模型加权结合而成，并针对多句翻译使用了文档级模型进行训练，最后使用现有的质量估计模型和最小贝叶斯风险解码将 n-best 列表进行重排序，使得最佳假设能够根据 COMET 评估度量标准被选择。根据自动评估结果，在两个翻译方向上我们的系统排名第一。
machine translationensemble modeltransformer architecturenamed entity recognitionback-translation
发现论文，激发创造
  • 爱丁堡大学 WMT17 神经机器翻译系统

    该论文介绍爱丁堡大学参加 WMT17 共享新闻翻译和生物医学翻译任务的情况，使用了采用 Nematus 注意力编码器 - 解码器训练的神经机器翻译系统，并对层归一化、深度结构和不同的集成技术进行了广泛的实验。

    Aug, 2017

  • AMU-UEDIN 参加 WMT16 新闻翻译任务： 以基于注意力的 NMT 模型作为基于短语的 SMT 的特征函数

    本文提出了将基于注意力的神经翻译模型与基于短语的统计机器翻译方法集成的方法，并使用有效的 GPU 批处理算法。在 WMT 2016 共享任务上，该方法的英俄翻译系统表现早期略逊于基于纯神经网络的系统，但在限制系统方面表现优异。而其俄英翻译系统在 BLEU 评估中取得最佳结果，表现优于最佳纯神经网络系统 1.1 个 BLEU 点和基于短语的基线系统 1.6 个 BLEU 点，且在其限制系统的聚类中表现最佳。

    May, 2016

  • 剑桥大学 WMT18 机器翻译系统

    该论文探究利用多种不同的神经模型进行翻译的组合，其中包括递归、卷积和自注意力模型，最终结合短语基 SMT 系统的 MBR 方案，相较于强 Transformer 模型集合，取得了小但一致的收益。

    Aug, 2018

  • WMT 16 爱丁堡神经机器翻译系统

    我们参加了 WMT 2016 分享的新闻翻译任务，并为四种语言建立了神经翻译系统，每种语言都在英语和其它语言的两个方向上进行训练。使用了基于注意力的编码器 - 解码器、BPE 子词段和自动回译等技术，我们的方法使得我们的结果比基准系统提高了 4.3-11.2 BLEU，人工评估显示我们的系统在 8 个翻译方向中有 7 个是最好的约束系统。

    Jun, 2016

  • 基于单 / 双语神经机器翻译模型的对数线性组合用于自动后编辑

    本文探讨了神经机器翻译模型在自动后编辑任务上的应用，并借助对不同模型的处理提高结果，使用简单的字符串匹配惩罚来控制原始机器翻译输出，产生了大量人工数据来解决训练数据不足的问题，超越了基线和其他系统。

    May, 2016

  • 阿里巴巴 - 翻译 2022 WMT 质量评估共享任务中国提交

    本研究使用 UniTE 框架，通过预训练语言模型的三种输入格式进行训练，并采用数据修剪和评分规范化策略来减小预训练和微调之间的差距。使用了过去多年的 WMT 比赛的 Direct Assessment 和 Multidimensional Quality Metrics 数据。最终将两个 UniTE 模型（XLM-R 和 InfoXLM）的预测进行集成，取得了在多语言和英俄设置中的第一名以及在英德和中英设置中的第二名的表现，表明了相对强的性能。

    Oct, 2022

  • 悉尼大学参加 WMT19 的机器翻译系统

    本文介绍了悉尼大学参加 WMT 2019 共享新闻翻译任务的提交。通过将学术研究中的最新的有效策略（例如，BPE、回译、多特征数据选择、数据增强、贪婪模型集成、reranking、ConMBR 系统组合和后处理）与自注意力 Transformer 网络相结合，提出了一种新的增强方法 Cycle Translation 和数据混合策略大 / 小并行构建，全面利用合成语料库。大量实验证明，添加上述技术可以使 BLEU 分数不断提高，最佳结果比基准线（使用原始平行语料库训练的 Transformer 集成模型）的 BLEU 分数高出约 5.3 个 BLEU 分，达到最先进的表现。

    Jun, 2019

  • WMT19 中的英捷系统：文档级 Transformer

    本文介绍在 WMT19 共享任务中，我们采用 Transformer 模型和 document-level 训练方式，用于英捷克翻译，以提高翻译文件的充分性和连贯性。

    Jul, 2019

  • UvA-MT 参与 WMT23 通用翻译共享任务

    通过使用一种模型处理双向任务，如最小设置的多语言机器翻译（MMT），本研究展示了在 WMT 2023 共享任务中的 UvA-MT 参与者使用两个方向：英语 <-> 希伯来语，可以实现与传统双语翻译相当的结果。通过包括有效策略，如反向翻译、重新参数化的嵌入表和任务导向的微调，在英语 -> 希伯来语和希伯来语 -> 英语两个方向上，我们在自动评估中获得了有竞争力的最终结果。

    Oct, 2023

  • NiuTrans 机器翻译系统用于 WMT21

    介绍了 NiuTrans 神经机器翻译系统及其在多个语言（包括中文、日语、俄语、冰岛语）的 WMT2021 新闻翻译任务中的应用，利用多种方法包括 Transformer、回译、知识蒸馏和微调等提高翻译的性能。

    Sep, 2021