Nov, 2023

CBSiMT: 基于加权前缀对前缀训练的同时翻译中减轻幻觉

PDF
TL;DR我们提出了一种基于置信度的同传机器翻译框架（CBSiMT），通过利用模型置信度来察觉幻觉标记，并通过加权的前缀对前缀训练来减轻它们的负面影响。实验结果表明我们的方法可以在大多数延迟范围内持续提高翻译质量，低延迟时提高 2 个 BLEU 分数。
simultaneous machine translationprefix-to-prefix frameworkhallucination problemsconfidence-based simultaneous machine translationtranslation quality
发现论文，激发创造
  • 利用长度感知框架降低同时机器翻译中的位置偏见

    本研究分析了 SiMT 中的位置偏差现象，提出了一个基于长度感知的框架，通过将流输入变成伪满句来消除位置偏差，并成功应用于两个代表性的 SiMT 方法中以提高性能。

    Mar, 2022

  • 同时机器翻译的展望

    该研究提出了一种新方法，通过课程学习以逐步减少可用的源信息，从而实现从序列到序列训练到前缀到前缀训练的过渡，以增强同步机器翻译模型的翻译能力。实验证明，该方法优于强基准模型。

    Sep, 2023

  • 无需预测的同步机器翻译训练

    本文提出了一种将翻译过程分解为单调翻译和重新排序步骤的新框架，并通过辅助排序网络模型来模拟其中的重新排序步骤，从而提高了同时翻译模型的翻译效果。

    Jan, 2022

  • 利用视觉上下文的同时机器翻译

    本文旨在研究如何利用视觉信息来弥补缺失的源文本背景，评估不同的多模态方法和视觉特征对最先进的同时机器翻译 (SiMT) 框架的影响。结果表明，视觉背景是有帮助的，基于明确的物体区域信息的可视化模型优于常用的全局特征，在低延迟情境下的表现可提高 3 个 BLEU 分数。我们的定性分析展示，只有多模态系统才能正常翻译英语到标记性别的语言，并处理英语和法语之间的形容词和名词词序等差异。

    Sep, 2020

  • 通过单语数据提高同时机器翻译的效果

    该研究提出并探索了使用单语数据来提高同时机器翻译的质量，并提出了新的单语抽样策略，以避免 SiMT 中的幻觉问题，实验表明新策略可以显著提高翻译质量。

    Dec, 2022

  • 关于同时机器翻译中的虚构问题

    通过对 SiMT 中幻觉的两个角度进行综合分析，即对幻觉词的分布和目标端上下文使用进行理解，研究发现通过减少 SiMT 中目标端信息的过度使用，可以减轻幻觉现象。

    Jun, 2024

  • 隐马尔可夫变换器用于同时机器翻译

    利用隐马尔科夫模型以及最大化边际似然性训练，提出了一种名为 Hidden Markov Transformer 的模型，用于解决同声机器翻译中好的翻译时间点的挑战。实验表明该模型在多个数据集上优于现有方法并取得了最佳表现。

    Mar, 2023

  • 混合专家等候 - k 策略的通用同时翻译机

    本论文提出了一种基于 Mixture-of-Experts Wait-k 机制的通用即时翻译模型，采用多头注意力实现专家混合，每个专家根据其自己的等待词数被认为是 wait-k 专家，并根据测试延迟和源输入调整专家权重以产生最佳翻译，可以在任意延迟下实现最佳翻译质量，实验结果表明，该方法优于现有方法。

    Sep, 2021

  • 定制参考语境的同时机器翻译

    提出了一种通过修改参考文献并使用强化学习方法进行个性化训练的新方法，用于改进不同延迟下训练的同传机器翻译模型的性能。实验证明，该方法在固定和自适应策略下都取得了最先进的性能。

    Oct, 2023

  • 数据驱动的自适应同时机器翻译

    本文提出一种用于自适应 SimulMT 训练的有效方案，通过向训练语料库中添加自适应前缀对前缀的语句，来缓解 Wait-K 策略的两个主要限制，实验证明该方法在翻译质量和延迟方面优于所有强基准线。

    Apr, 2022