ACLJun, 2024

神经机器翻译的确定性可逆数据增强

PDF
TL;DR确定性可逆数据增强（DRDA）是一种简单但有效的数据增强方法，用于神经机器翻译，通过采用确定性分段和可逆操作生成多粒度子词表示，并通过多视角技术将它们拉近，无需额外的语料库或模型变更，DRDA 在几个翻译任务中优于强基线模型（Transformer），在嘈杂、资源匮乏和跨领域数据集中表现出良好的鲁棒性，达到多达 4.3 BLEU 增益。
data augmentationmachine translationdeterministic reversible data augmentationneural machine translationbleu gain
发现论文，激发创造
  • 低资源神经机器翻译中数据增强的再思考：多任务学习方法

    本文提出了一种基于多任务学习的数据增强方法，通过将目标句子的顺序进行颠倒等操作，产生不流畅的目标句子，作为辅助任务使用以加强编码器和强制解码器更多地关注源表示。在六个低资源翻译任务上的实验证明，该方法相对于以扩展经验数据分布为目标的传统数据增强方法，可以在提高翻译质量的同时提高翻译系统的鲁棒性和抗干扰性。

    Sep, 2021

  • 基于词典的跨领域神经机器翻译数据增强

    本文提出了一种基于词典的数据增强方法，用于跨领域神经机器翻译。通过生成大规模的伪 IND 平行语料库，可以增强一般域训练的基线 NMT 模型，实验结果表明，DDA 增强的 NMT 模型表现出一致显著的改进，胜过基线模型 3.75-11.53 BLEU。

    Apr, 2020

  • 基于贝叶斯的随机语义数据增强在医学图像分类中的应用

    提出了一种名为 Bayesian Random Semantic Data Augmentation 的新型、高效且即插即用的语义数据增强方法（BRSDA），通过在特征空间中沿特定方向进行简单的平移，实现语义转换，并结合其他主流的数据增强方法，取得了优越的性能。

    Mar, 2024

  • 面向文档级机器翻译的目标端增强

    提出了目标端数据增强的数据稀疏性问题解决方法，通过生成多个潜在翻译来训练机器翻译模型，从而减少数据稀疏性的风险并提高翻译性能。

    May, 2023

  • 低资源语言的分布式数据增强方法

    通过提出易分布数据增强（EDDA）和类型特定的相似词替换（TSSR）两种扩展方法，利用语义词上下文信息和词性标签进行词替换和增强，我们展示了这些方法在低资源语言的两个代表数据集上通过 F1 分数度量的实用性，证明了增强数据可以在低资源环境中提高分类性能。

    Sep, 2023

  • 语义数据增强正则化深度网络

    提出一种基于深度神经网络学习的语义数据增强方法 (ISDA), 通过此方法可以提高卷积神经网络在图像分类任务上的泛化性能.

    Jul, 2020

  • 基于深度学习的有限数据加速 MRI 重建中的数据增强

    本研究针对医学图像重建问题，提出了一种数据增强（DA）的方法 MRAugment，通过多项实验证明，在训练数据较少的情况下，MRAugment 能有效地防止过拟合并达到甚至超过目前最新技术水平；而在大量训练数据下，MRAugment 的效果则有所降低。此外，研究结果还表明，DA 方法能提高模型对于测试数据偏移的鲁棒性。

    Jun, 2021

  • 利用生成式语言模型进行神经机器翻译的数据增强

    通过利用大规模语言模型如 ChatGPT，我们探索了基于提示的数据增强方法，用于产生合成的平行语料库，比较了三种不同提示的方法，并使用两个评估指标来衡量所生成的合成数据的多样性。这种方法无需额外的模型训练成本，与后向翻译等其他增强方法相比，提高了未增强基线的 0.68 BLEU 分数。

    Jul, 2023

  • 神经机器翻译的句法感知数据增强

    本文提出了一种新的句法感知数据增强策略，使用输入句子的依存句法树来确定每个句子中单词的选择概率，以有效增强神经机器翻译的翻译性能。实验表明，所提出的数据增强方法可显著提高基于句子独立的方法的翻译性能。

    Apr, 2020

  • 通过数据增强提高神经机器翻译的鲁棒性：超越回译

    本文探讨了神经机器翻译以及如何提高其对于噪声输入的鲁棒性，提出了新的数据扩充方法以及通过利用外部数据中的噪声来加强模型鲁棒性。

    Oct, 2019