Dec, 2022

神经机器翻译中无监督幻象检测的最优输运

PDF
TL;DR本文讨论如何通过优化传输和一个完全无监督的插件来检测 NMT 中的幻觉，并表明该检测器不仅优于所有先前的基于模型的检测器，而且与训练在数百万个样本上的大型模型的检测器有竞争力。
neural machine translationhallucination detectionencoder-decoder attention patternsunsupervised detectornmt models
发现论文，激发创造
  • 寻找稻草堆中的针头：神经机器翻译中幻觉的全面研究

    本文研究了神经机器翻译中的幻觉问题，提出了一种基于不确定性的检测方法，并探究了 DeHallucinator 方法在测试阶段缓解幻觉的效果。此外，作者还发布了一个标注数据集用于未来研究。

    Aug, 2022

  • 神经机器翻译幻觉成因探究

    本文提出使用探测方法从模型结构的角度研究机器翻译中幻觉翻译的存在原因，实验发现，幻觉翻译通常伴随缺陷的编码器，特别是嵌入和脆弱的交叉关注，而交叉关注有助于减轻编码器引起的某些错误。

    Jun, 2022

  • 使用特征归因减少神经机器翻译中的幻觉

    通过特征归因和正则化等方法，提出一种新的损失函数，可以有效降低神经机器翻译中的幻觉错误。

    Nov, 2022

  • 神经机器翻译中幻觉现象的好奇案例

    本文研究神经机器翻译中的幻觉，提出了两个关键的幻觉方式（源扰动下和语料级别噪声下），并阐述了数据生成过程中的幻觉放大现象，其中 Backtranslation 是一种常见的数据生成方法。

    Apr, 2021

  • 通过模型内省理解和检测神经机器翻译中的幻觉

    通过分析相对标记的贡献来确定神经序列生成模型的幻觉内在模型症状，使用这些症状设计出一个轻量级的幻觉检测器，在手动标注的英中和德英翻译测试上优于基于质量估计或大型预训练模型的分类器。

    Jan, 2023

  • 渥太华：用于幻觉和遗漏翻译错误检测的最优输运自适应词对齐器

    我们介绍了一种基于 Optimal Transport 的单词对齐器 OTTAWA，旨在增强机器翻译系统中幻觉和遗漏的检测能力。与现有方法相比，在 HalOmi 基准测试的 18 种语言对上，我们的方法取得了竞争性的结果，并具有识别错误类型和进行单词级检测的能力，而无需访问机器翻译系统的内部状态。

    Jun, 2024

  • 通过简单的检测器聚合增强神经机器翻译中的虚构检测

    本文提出了一种通过结合多个检测器来解决机器翻译系统中个别检测器的局限性的简单方法，以提高其有效性，为更加可靠的机器翻译系统迈出了一步。

    Feb, 2024

  • 检测和缓解机器翻译中的幻觉：仅基于模型内部工作表现良好，基于句子相似度的方法表现更佳

    提出了一种通过评估翻译中源语言贡献百分比的方法，以解决神经机器翻译中出现的幻觉问题，并发现使用跨语言嵌入的句子相似性有助于提高检测精度。

    Dec, 2022

  • 大型多语种翻译模型中的幻觉

    本研究针对大规模多语言机器翻译，分析了 M2M 常规神经机器翻译模型和通用的 ChatGPT 模型中幻觉翻译的普遍性、特性和缓解措施，以期构建更加稳定和可信的机器翻译系统。

    Mar, 2023

  • 检测条件神经序列生成中产生的虚假内容

    本文介绍了一种使用预训练模型和人工标注数据来检测神经序列模型输出中的虚构内容，并在机器翻译和摘要生成等任务中获得显著效果的方法。

    Nov, 2020