Dec, 2022

神经机器翻译的主动学习

PDF
TL;DR本文使用 Joey NMT 工具包中的 Active Learning 技术，通过两种基于模型的获取函数 (BM, FTM, ALLCM, 和 ALMSM)，研究了英语到印地语的神经机器翻译。本文的结果表明，Active Learning 技术能够使模型更早地达到收敛并提高整个翻译系统的质量，其中 ALLCM 和 ALMSM 两种模型取得了最好的 BLEU 分数。
发现论文，激发创造
  • 神经机器翻译的短语级主动学习

    本文拟通过选择在新领域非标记数据中的全句和短语，将其路由至人类翻译，解决神经机器翻译在领域转移方面的限制，从而在德语 - 英语翻译任务上，相比于不确定性句子选择方法，实现了一定程度的改进。

    Jun, 2021

  • 低资源神经机器翻译的高性价比训练

    提出了一种利用自监督学习和小规模词典来初始化神经机器翻译（NMT）模型，在初始化后使用主动学习策略提高低资源条件下（如稀缺语言）翻译模型性能的方法，并提出了一种基于领域适应的新型主动学习策略。除此之外，我们还表明，使用这种初始化方法和主动学习策略可相比于传统方法提高最多 13 个 BLEU 点。

    Jan, 2022

  • 数据流交互神经机器翻译的主动学习

    本文探讨了使用主动学习技术对无限数据流进行交互式神经机器翻译的应用，并提出了两种选择样本的新方法。我们的实验表明，将主动学习技术集成到翻译系统中可在增加翻译质量的同时降低所需的人力工作量，并使人力工作量达到一定的翻译质量平衡。此外，我们的神经系统表现明显优于传统方法。

    Jul, 2018

  • 低资源语言的神经机器翻译

    本文研究通过引入更多本地依赖关系和使用单词对齐来学习翻译过程中的句子重新排序，在低资源语言中使用神经机器翻译 (NMT) 模型，产生仅使用 7 万个训练数据令人满意的翻译结果。

    Aug, 2017

  • 基于 Transformer 的印地语到英语神经机器翻译

    我们使用深度学习技术开发了一种神经机器翻译系统，通过训练 Transformer 模型将印度语 Hindi 翻译成英语，通过实施回译增强训练数据并尝试使用 Byte Pair Encoding (BPE) 进行词汇划分，我们在 10 个不同的配置中训练 Transformer，在 IIT Bombay 英印语语料库的测试集中取得了 24.53 的最新 BLEU 分数。

    Sep, 2023

  • 谷歌的神经机器翻译系统：弥合人类翻译和机器翻译之间的差距

    Google 发布的 GNMT 神经机器翻译系统采用 LSTM 深度学习网络，使用 attention 机制和残差连接，借助词元素 (wordpieces) 将单词划分为子单元，提高了稀有单词处理能力与整体系统精度。

    Sep, 2016

  • 针对基于预训练 Transformer 的多任务主动学习

    本文介绍多任务学习和主动学习的结合在 NLP 领域中的应用，提供了一些多任务选择标准，论证了多任务学习的有效性，使得在避免过多的文本标注方面更为高效。

    Aug, 2022

  • Onception: 面向真实世界机器翻译的专家建议主动学习

    本文主要探讨了在低资源环境下运用主动学习来提高机器翻译系统的翻译质量，使用流式主动学习提高翻译质量，通过动态组合多种查询策略，使用预测和专家建议来决定最优策略。通过实验证明，在更少的人工干预下，使用主动学习可以收敛到最好的机器翻译系统。

    Mar, 2022

  • 多语言神经机器翻译的多任务学习

    提出了一种基于多任务学习的框架，通过对单语数据的两个去噪任务和双语数据的翻译任务联合训练模型，显著提高了多语言 NMT 系统的翻译质量，并在零样本学习的情况下证明了该方法的有效性。

    Oct, 2020

  • 由统计机器翻译指导的神经机器翻译

    本文提出了将 SMT 模型融入 NMT 框架，通过辅助分类器和门函数来结合 SMT 的推荐和 NMT 的生成，从而提高中英翻译的性能。实验结果表明，该方法在多个测试集上均显著优于现有的 NMT 和 SMT 系统。

    Oct, 2016