ACLMay, 2020

神经机器翻译中的曝光偏差、幻觉和领域偏移

PDF
TL;DR本论文从三个数据集中的多个测试域的实验中，展示了暴露偏差对于幻觉的部分责任，并且证明了避免暴露偏差的 Minimum Risk Training 可以缓解幻觉问题，并说明了暴露偏差在领域转移下更加问题，并且将其与 Beam Search 问题联系起来。因此，即使暴露偏差算法不会增加在领域测试集上的性能，但它们可以提高模型对领域移位的鲁棒性。
发现论文，激发创造
  • 神经机器翻译中幻觉现象的好奇案例

    本文研究神经机器翻译中的幻觉，提出了两个关键的幻觉方式（源扰动下和语料级别噪声下），并阐述了数据生成过程中的幻觉放大现象，其中 Backtranslation 是一种常见的数据生成方法。

    Apr, 2021

  • 神经机器翻译幻觉成因探究

    本文提出使用探测方法从模型结构的角度研究机器翻译中幻觉翻译的存在原因，实验发现，幻觉翻译通常伴随缺陷的编码器，特别是嵌入和脆弱的交叉关注，而交叉关注有助于减轻编码器引起的某些错误。

    Jun, 2022

  • 寻找稻草堆中的针头：神经机器翻译中幻觉的全面研究

    本文研究了神经机器翻译中的幻觉问题，提出了一种基于不确定性的检测方法，并探究了 DeHallucinator 方法在测试阶段缓解幻觉的效果。此外，作者还发布了一个标注数据集用于未来研究。

    Aug, 2022

  • 使用特征归因减少神经机器翻译中的幻觉

    通过特征归因和正则化等方法，提出一种新的损失函数，可以有效降低神经机器翻译中的幻觉错误。

    Nov, 2022

  • 神经机器翻译中无监督幻象检测的最优输运

    本文讨论如何通过优化传输和一个完全无监督的插件来检测 NMT 中的幻觉，并表明该检测器不仅优于所有先前的基于模型的检测器，而且与训练在数百万个样本上的大型模型的检测器有竞争力。

    Dec, 2022

  • 利用文档最小风险训练解决生物医学翻译任务中的曝光偏差问题：剑桥在 WMT20 中的实践

    本研究使用最小风险训练方法对 WMT 医学翻译任务进行微调，解决训练样本不足和句子对不匹配等问题，取得了较好的翻译结果。

    Oct, 2020

  • 逐步翻译：通过中间序列提高神经机器翻译的领域鲁棒性

    本文提出了利用中间信号的方法来改善神经机器翻译 (NMT) 的性能，通过引入特定的中间序列可以降低域内和域外的干扰，进而增强 NMT 的鲁棒性和泛化性能，特别是在低资源情况下效果显著。

    May, 2023

  • 曝光偏差的重要性：语言生成中误差累积的模仿学习视角

    本文探讨语言生成模型存在的问题，阐述了模型脆弱性产生的原因，并从模仿学习的角度分析暴露偏差。作者证实了该假设，通过分析误差积累的原因和导致质量低下的积累。

    Apr, 2022

  • 通过模型内省理解和检测神经机器翻译中的幻觉

    通过分析相对标记的贡献来确定神经序列生成模型的幻觉内在模型症状，使用这些症状设计出一个轻量级的幻觉检测器，在手动标注的英中和德英翻译测试上优于基于质量估计或大型预训练模型的分类器。

    Jan, 2023

  • 神经机器翻译的领域鲁棒性

    本文研究了机器翻译模型在未知领域中的性能表现，发现在未知领域中，统计机器翻译（SMT）和神经机器翻译（NMT）系统存在不同的问题：SMT 系统通常足够但不流利，而 NMT 系统流利但不足够。本文发现，NMT 系统出现的 “幻觉” 现象是造成低域稳健性的主要原因，研究并比较了有关提高 NMT 系统稳健性的方法，实验结果表明，这些方法能够稍微提高 NMT 系统翻译的充分性，但对流畅性的提高较小。

    Nov, 2019