Apr, 2016

面向低资源神经机器翻译的迁移学习

PDF
TL;DR该研究提出了一种转移学习的方法，通过先训练一个高资源语言对以及将一些已学习的参数转移至低资源语言对，来初始化和约束训练，显著提高了 Bleu 分数，并将低资源机器翻译性能接近于强的基于语法的机器翻译系统，超过了其一个语言对的性能，并且用于重新评分可以进一步提高低资源机器翻译的表现。
发现论文，激发创造
  • 低资源语言的神经机器翻译

    本文研究通过引入更多本地依赖关系和使用单词对齐来学习翻译过程中的句子重新排序，在低资源语言中使用神经机器翻译 (NMT) 模型，产生仅使用 7 万个训练数据令人满意的翻译结果。

    Aug, 2017

  • 神经机器翻译跨低资源、相关语言的迁移学习

    基于 Byte Pair Encoding 的转移学习方法对低资源语言进行神经翻译的改进，提高了翻译的质量。

    Aug, 2017

  • 低资源神经机器翻译的简单迁移学习

    本研究提出了一种简单的迁移学习方法，通过训练 “父模型” 并在低资源语言对上进行训练，取代了原有的训练语料库，成功地提高了针对不同语言对的机器翻译性能。

    Sep, 2018

  • 低资源语言的神经机器翻译

    该研究探索了低资源语言领域的神经机器翻译以及如何通过 NLP 和深度学习技术对语言模型进行改进

    Apr, 2023

  • 低资源神经机器翻译元学习

    本文利用元学习算法 (MAML) 扩展低资源 NMT 问题，并通过多语言高资源任务进行学习来适应低资源语言，并利用全局词汇表解决不同语言的输入输出错配， 在使用 18 种欧洲语言作为源任务和 5 种不同的语言作为目标任务的情况下，相对于基于多语言、迁移学习的方法，表明所提出的方法显著优于现有方法，并仅需少量训练示例即可获得具有竞争力的 NMT 系统。

    Aug, 2018

  • 增强多语言神经机器翻译中目标侧词汇转移

    本文探讨了在低资源语言翻译中，利用高资源语言数据进行多语言转移的方法，通过提出一种基于字符 N-gram 的嵌入方法 DecSDE，使得从英语到四种不同语言的翻译 BLEU 值提高了最高 1.8 个百分点。

    Oct, 2020

  • 重新审视低资源神经机器翻译：以个案研究为例

    本文探讨神经网络机器翻译（NMT）在低资源条件下性能下降的原因，提出适应低资源环境时的注意事项和最佳实践，并在德语 - 英语和韩语 - 英语低资源翻译数据集上进行实验，发现经过优化的 NMT 系统可以在没有使用其他语言辅助数据的情况下，比以前报告的更少数据超越采用词组统计的基于规则的机器翻译（PBSMT），BLEU 指标超过 4 个点。

    May, 2019

  • 多语言神经机器翻译中的迁移学习和动态词汇

    本研究提出了一种神经机器翻译（NMT）模型间的知识转移方法，通过共享动态词汇表来适应新语言，以达到提高翻译性能的目的，并在多种语言方向上进行了实验，结果表明具有良好的性能。

    Nov, 2018

  • 通过多语言转移学习利用跨领域平行数据进行低资源神经机器翻译的开发

    本文提出了一种新的多语种多阶段微调方法，融合了领域自适应、多语言和反向翻译，通过利用域外数据的转移学习方法来帮助改善日俄低资源神经机器翻译的质量。

    Jul, 2019

  • 无共享词汇的神经机器翻译模型的有效跨语言转移

    文章介绍了一种不需要共享词汇的方法，使用跨语言词嵌入来缓解语言间的词汇不匹配，注入人工噪声，从预训练数据轻松生成合成数据，并在五种低资源翻译任务中将纯 NMT 转移提高了 + 5.1% BLEU，优于多语言联合训练。

    May, 2019