Nov, 2018

低资源神经机器翻译双向可微输入重构

HTML
PDF
TL;DR本研究通过引入可区分的重构损失，将神经机器翻译（NMT）的有限平行文本的利用更加完善，并探索不引入额外参数的不同iable采样和双向NMT来进行端到端的模型训练。实验表明，在四个语言对中，该方法在向两个方向上均取得了一致的小幅BLEU提高，并且优于另一种基于隐藏状态的可区分重构策略
发现论文，激发创造
  • 面向低资源神经机器翻译的迁移学习

    该研究提出了一种转移学习的方法，通过先训练一个高资源语言对以及将一些已学习的参数转移至低资源语言对，来初始化和约束训练，显著提高了Bleu分数，并将低资源机器翻译性能接近于强的基于语法的机器翻译系统，超过了其一个语言对的性能，并且用于重新评分可以进一步提高低资源机器翻译的表现。

    Apr, 2016

  • 基于重建的神经机器翻译

    通过添加reconstructor到encoder-decoder框架中，从输出的target sentence的隐藏层中重构输入的source sentence，改善了神经机器翻译的可靠性和翻译质量。

    Nov, 2016

  • 低资源语言的神经机器翻译

    本文研究通过引入更多本地依赖关系和使用单词对齐来学习翻译过程中的句子重新排序，在低资源语言中使用神经机器翻译(NMT)模型，产生仅使用7万个训练数据令人满意的翻译结果。

    Aug, 2017

  • 利用检索到的翻译片段指导神经机器翻译

    通过搜索引擎检索以前见过的语句，然后提取这些语句中与源语句匹配的$n$-grams以实现将历史翻译例子加入到神经机器翻译模型中，因此提高翻译效果。

    Apr, 2018

  • 双向神经机器翻译与合成平行数据

    本论文提出一种结合了回译和多语言神经机器翻译技术的新技术，通过为一个语言对训练一个模型来改善在低资源和跨领域情况下的机器翻译效果，并且能显著降低培训和部署成本。

    May, 2018

  • 神经机器翻译中带有灵活参照词序的可微分采样

    该研究论文介绍了一种新的可微分采样算法，该算法通过基于模型预测的软对齐来优化参考与采样输出之间的对齐概率，从而提高机器翻译的BLEU值，并在IWSLT翻译任务中取得较大的改进。

    Apr, 2019

  • 无共享词汇的神经机器翻译模型的有效跨语言转移

    文章介绍了一种不需要共享词汇的方法，使用跨语言词嵌入来缓解语言间的词汇不匹配，注入人工噪声，从预训练数据轻松生成合成数据，并在五种低资源翻译任务中将纯NMT转移提高了+5.1% BLEU，优于多语言联合训练。

    May, 2019

  • 通过多语言转移学习利用跨领域平行数据进行低资源神经机器翻译的开发

    本文提出了一种新的多语种多阶段微调方法，融合了领域自适应、多语言和反向翻译，通过利用域外数据的转移学习方法来帮助改善日俄低资源神经机器翻译的质量。

    Jul, 2019

  • 使用合成和真实数据进行的交替训练，用于神经机器翻译

    通过交替使用合成和真实语料库，提出一种神经机器翻译的备选训练方法，实验结果表明，在汉英翻译和德英翻译任务中，该方法在几种强基线模型上都表现出更好的性能，真实数据有助于将NMT模型参数导向具有较高BLEU分数的点并提高一致性的翻译表现。

    Jun, 2021

  • 低资源神经机器翻译调查

    本文对低资源神经机器翻译进行了调查，并根据所使用的辅助数据将相关作品分为三类：利用源语言和/或目标语言的单语数据，利用来自辅助语言的数据以及利用多模态数据。该调查有助于研究人员更好地理解该领域，鼓励他们设计更好的算法，也有助于帮助行业从业者选择适合其应用程序的算法。

    Jul, 2021