Feb, 2019

通过合成噪声训练，提高机器翻译的抗自然噪声鲁棒性

PDF
TL;DR本文提出通过引入随机合成的少量噪音来改善机器翻译中源文本字符级别波动的鲁棒性，从而提高对拼写错误等变异的覆盖率。作者表明，通过在训练时使用一些较为简单的合成噪音，可以实现对常见噪音（例如 Wikipedia 编辑日志中的修正）的鲁棒性，同时不会降低在规范文本上的表现。
发现论文，激发创造
  • 合成和自然噪声都会破坏神经机器翻译

    本文研究了基于字符的神经机器翻译模型，并发现它们能够解决词表外的问题、学习词形变化，但是在面对嘈杂的数据时容易出现错误。作者探究了两个方法来提高模型的鲁棒性：结构不变的词表示和在噪声数据上强化训练。作者发现一个基于字符卷积神经网络的模型能够同时学习多种噪声下的鲁棒表示。

    Nov, 2017

  • 利用合成噪音提高机器翻译的鲁棒性

    本文介绍借助带有自然噪声的大型数据集从而使得机器翻译系统更加鲁棒，提升其抗噪能力并部分缓解由此产生的精度损失。

    Feb, 2019

  • 通过数据增强提高神经机器翻译的鲁棒性：超越回译

    本文探讨了神经机器翻译以及如何提高其对于噪声输入的鲁棒性，提出了新的数据扩充方法以及通过利用外部数据中的噪声来加强模型鲁棒性。

    Oct, 2019

  • 提高语音翻译的稳健性

    提出了一种简单且有效的方法来改进神经机器翻译在语音翻译中的稳健性，通过在干净的平行数据集中注入真实输出中存在的噪声以及结合拼音特征，使 NMT 可以在类似的单词分布下进行训练和测试，实验结果表明，该方法在多个噪声测试集上的稳定性表现优异，并在 WMT'17 中英测试集上取得了泛化性能的提高。

    Nov, 2018

  • 构建强韧的神经机器翻译系统

    本文提出采用对抗性稳定性训练来提高神经机器翻译 (NMT) 模型的鲁棒性，通过使编码器和解码器在输入和其扰动版本的情况下行为相似，进而提高模型的容错性。在汉英、英德和英法翻译任务中的实验结果表明，该方法不仅可以显著提高强 NMT 系统的翻译品质，而且可以增强 NMT 模型的鲁棒性。

    May, 2018

  • 如何在嘈杂的世界中学习？对机器翻译中的真实世界数据噪声进行自校正

    通过模拟实际语义不对齐问题并对其影响进行定量分析，本研究提出一种自我校正方法来处理数据噪声，并在机器翻译中取得了显著的性能提升。

    Jul, 2024

  • 利用合成目标进行机器翻译

    使用大型预训练模型生成合成目标数据可以提高限定资源环境下机器翻译模型的性能，这种方法可以优于在实际数据上训练模型，效果更好的原因可以归因于模型参数的数量限制和优化效果的提高。

    May, 2023

  • 合成翻译是否能提高双语文本质量？

    本文探讨合成翻译如何用于修订挖掘的双语对齐中的潜在不完美的参考翻译，利用语义等价分类器替换原始数据集的方式无需额外的双语监督即可提高双语对齐的质量，改进被修订的双语对齐在人类评估和双语感知和机器翻译任务中均得到了内在和外在的证实。

    Mar, 2022

  • 神经机器翻译对输入扰动的鲁棒性评估

    本文提出了衡量 NMT 模型抗干扰性能的一些额外指标，并针对一类使用子单词规范化方法的模型进行了广泛评估，结果表明我们提出的指标揭示了使用子单词规范化方法时抗干扰性能提高的明显趋势。

    May, 2020

  • 机器翻译对自然无语义变化的鲁棒性

    通过引入自然非语义变化（NAV）概念并利用人工生成的变化对机器翻译进行微调，可提高机器翻译在困难输入（如噪声数据和边缘词语）下的性能，还发现 NAV 的鲁棒性可以跨语言进行转移，但合成扰动无法实现所有有机 NAV 数据的优点。

    May, 2022