Mar, 2023

通过敌对训练利用多语言能力在低资源神经机器翻译中的应用

PDF
TL;DR本文提出了一个 DAASI 方法用于多语言语言对的句子插值， 该方法可通过学习源语言和目标语言的中间潜在表示来优化基于 GAN 的多语言翻译模型。实验证明，在低资源语言对上，该方法的表现超过了现有的最先进方法，性能提高了最多 4 BLEU 分数。
generative adversarial networksmultilingual machine translationdenoising adversarial autoencoderwasserstein-ganlow-resource languages
发现论文，激发创造
  • 多重对抗学习用于跨语言单词嵌入

    提出了一种基于多对抗学习的新方法，用于在远程语言之间诱导跨语言词嵌入，改善了以往单映射方法的性能，特别是对于远程语言的情况

    Oct, 2020

  • 使用条件序列生成对抗网络提升神经机器翻译

    该论文提出了一种将 GANs 应用于 NMT 的方法，其通过生成对抗网络实现机器翻译任务中句子的生成，并使用 BLEU 评估模型表现，实验证明该方法在英德和中英翻译任务上均优于传统的 RNNSearch 和最新的 Transformer 模型。

    Mar, 2017

  • 去噪适配器的多语言无监督神经机器翻译

    本文提出了一种使用去噪适配器的方法，以在没有监督数据的情况下，通过使用辅助并行语言对，将机器翻译应用于仅具有单语数据的语言。该方法的结果与反向翻译相当，并且允许逐步添加新语言。

    Oct, 2021

  • 对抗神经机器翻译

    本文研究一种新的神经机器翻译学习范式，即采用对抗训练模型进行最小化差异的方式来指导模型学习，此模型被命名为 Adversarial-NMT。实验结果表明，Adversarial-NMT 性能显著高于强基线模型，并能够实现更高质量的翻译。

    Apr, 2017

  • 自编码变分神经机器翻译

    我们提出了一种基于神经网络的双语句子对深度生成模型来进行机器翻译，能够通过共享的潜在表示联合生成源语言句子和目标语言句子，并使用摊余变分推断和重参数化梯度进行高效的训练，可以在领域内、混合领域数据、金标准和合成数据混合学习等各种情况下显示出比条件建模（即标准神经机器翻译）更好的性能。同时，我们讨论了联合建模的统计学意义，并提出了一种高效的近似方法来进行最大后验解码，以便在测试时进行快速预测。

    Jul, 2018

  • 使用一致性正则化的半监督神经机器翻译技术 —— 面向低资源语言

    本文介绍一种半监督的方法来解决低资源语言机器翻译的问题，通过增强高质量的句子对和使用基于 SentenceBERT 的过滤器来提高数据质量，将交叉熵损失和 KL 散度相结合，特别是通过伪目标句子实现无监督训练，实验证明该方法可以显著提高 NMT 基线性能

    Apr, 2023

  • 共享权重的无监督神经机器翻译

    通过使用两个独立的编码器和局部 GAN、全局 GAN，以提高跨语言翻译，本文通过无监督神经机器翻译方法显著提高了英德，英法和中英翻译任务的效果。

    Apr, 2018

  • 利用语言模型和降噪自编码器改善无监督逐字翻译

    本文提出了简单而有效的方法，通过使用单语语料库而无需任何回译来改善跨语言嵌入的逐字翻译，并结合语言模型和噪声自编码器来提高其翻译性能，分析了词汇量和去噪类型对翻译效果的影响。

    Jan, 2019

  • 生成式神经机器翻译

    介绍了生成神经机器翻译（GNMT）的概念，通过添加潜在变量提高翻译模型的语义建模能力，从而实现跨语言翻译，半监督学习以及降低过拟合的效果。

    Jun, 2018

  • 通过多语言转移学习利用跨领域平行数据进行低资源神经机器翻译的开发

    本文提出了一种新的多语种多阶段微调方法，融合了领域自适应、多语言和反向翻译，通过利用域外数据的转移学习方法来帮助改善日俄低资源神经机器翻译的质量。

    Jul, 2019