ACLApr, 2022

CipherDAug：基于密文的神经机器翻译数据增强

PDF
TL;DR该研究提出了一种新的数据增强技术，基于 ROT - k 密码文本。通过使用 ROT - k 加密训练数据与原始数据一起进行多源训练，我们的方法 CipherDAug 使用协同正则化风格的训练过程，在低资源环境中比强数据增强技术表现得更好。
data-augmentationneural machine translationrot-k ciphertextsmulti-source traininglow-resource
发现论文，激发创造
  • 面向文档级机器翻译的目标端增强

    提出了目标端数据增强的数据稀疏性问题解决方法，通过生成多个潜在翻译来训练机器翻译模型，从而减少数据稀疏性的风险并提高翻译性能。

    May, 2023

  • 低资源神经机器翻译中数据增强的再思考：多任务学习方法

    本文提出了一种基于多任务学习的数据增强方法，通过将目标句子的顺序进行颠倒等操作，产生不流畅的目标句子，作为辅助任务使用以加强编码器和强制解码器更多地关注源表示。在六个低资源翻译任务上的实验证明，该方法相对于以扩展经验数据分布为目标的传统数据增强方法，可以在提高翻译质量的同时提高翻译系统的鲁棒性和抗干扰性。

    Sep, 2021

  • 神经机器翻译的确定性可逆数据增强

    确定性可逆数据增强（DRDA）是一种简单但有效的数据增强方法，用于神经机器翻译，通过采用确定性分段和可逆操作生成多粒度子词表示，并通过多视角技术将它们拉近，无需额外的语料库或模型变更，DRDA 在几个翻译任务中优于强基线模型（Transformer），在嘈杂、资源匮乏和跨领域数据集中表现出良好的鲁棒性，达到多达 4.3 BLEU 增益。

    Jun, 2024

  • AdvAug: 神经机器翻译的鲁棒对抗性增强

    本文提出了一种新的神经机器翻译对抗性数据增强方法，称之为 AdvAug，使用虚拟句子的嵌入来训练 NMT 模型，通过实验证明其取得了显著的效果提升。

    Jun, 2020

  • 利用生成式语言模型进行神经机器翻译的数据增强

    通过利用大规模语言模型如 ChatGPT，我们探索了基于提示的数据增强方法，用于产生合成的平行语料库，比较了三种不同提示的方法，并使用两个评估指标来衡量所生成的合成数据的多样性。这种方法无需额外的模型训练成本，与后向翻译等其他增强方法相比，提高了未增强基线的 0.68 BLEU 分数。

    Jul, 2023

  • 神经机器翻译的软上下文数据增强

    本文提出了一种新颖的神经机器翻译数据增强方法，即通过语言模型提供的词汇分布来增强句子中的特定单词，从而比之前的增强方法更好地捕捉上下文语义信息。实验结果表明该方法在小规模和大规模机器翻译数据集上都优于强基线。

    May, 2019

  • 通过数据增强提高神经机器翻译的鲁棒性：超越回译

    本文探讨了神经机器翻译以及如何提高其对于噪声输入的鲁棒性，提出了新的数据扩充方法以及通过利用外部数据中的噪声来加强模型鲁棒性。

    Oct, 2019

  • 低资源神经机器翻译的数据增强

    本研究提出了一种以数据增强为基础的方法，针对低频词汇在合成的新语境中生成新的句子对，以提高神经机器翻译系统的翻译质量。在模拟低资源环境中的实验结果显示，相对于基准和回译方法，我们的方法能够提高翻译质量，最高可提高 2.9 BLEU 分数。

    May, 2017

  • 文档级神经机器翻译的重要性感知数据增强

    提出了一种基于重要性感知数据增强算法的文档级神经机器翻译方法，通过估计隐藏状态和训练梯度的法线来增加训练数据，并在常用文档级神经机器翻译基准数据集上获得了显著优于强基线模型和其他数据增强方法的结果，包括句子级和文档级 BLEU。

    Jan, 2024

  • 改进的翻译建议数据增强

    介绍了我们在 WMT'22 翻译建议共享任务中提交的系统，该系统基于多种翻译架构的集合，并使用三种策略构建合成数据以补偿监督数据的缺乏，并引入多阶段预训练策略，并在英德和英汉双向任务中排名第二和第三。

    Oct, 2022