ACLJun, 2024

自调整状态建模的同时机器翻译

PDF
TL;DR利用自我修改状态建模的同时机器翻译（SM^2）训练范式，通过优化每个状态的决策，确保准确优化政策，并通过前缀采样实现充分探索潜在状态，同时保证与双向编码器兼容，从而提高翻译质量。
simultaneous machine translationsimtdecision pathself-modifying state modelingprefix sampling
发现论文，激发创造
  • SiLLM：大型语言模型用于同步机器翻译

    同时机器翻译 (SiMT) 使用一个策略来确定最佳的阅读和生成单词的时机。我们提出了 SiLLM，将 SiMT 任务分解为策略决策和翻译子任务，并引入了大型语言模型 (LLM)。两个代理协作完成 SiMT，最终实现了最新技术水平的性能表现。

    Feb, 2024

  • Agent-SiMT：基于大型语言模型的代理辅助同时机器翻译

    同时机器翻译（SiMT）通过阅读源语句来生成目标翻译，在确定最佳时机阅读句子和生成翻译的策略方面，现有的 SiMT 方法通常采用传统的 Transformer 架构，虽然它们擅长确定策略，但其翻译性能却不够优化。相反，基于丰富语料库训练的大型语言模型（LLMs）具有卓越的生成能力，但它们很难通过 SiMT 的训练方法获得翻译策略。因此，我们引入 Agent-SiMT，这是一个将 LLMs 和传统 SiMT 方法的优势结合起来的框架。Agent-SiMT 包含策略决策代理和翻译代理。策略决策代理由一个 SiMT 模型管理，使用部分源语句和翻译来确定翻译策略。而翻译代理则利用 LLM 基于部分源语句生成翻译。这两个代理共同合作完成 SiMT。实验证明，Agent-SiMT 达到了最先进的性能。

    Jun, 2024

  • 用于同时机器翻译的双读写路径建模

    本文提出了一种采用双路径的同时机器翻译方法，该方法引入了对偶性约束以直接监督源到目标和目标到源 SiMT 模型的读 / 写路径，据实验结果表明，在所有延迟下，我们的方法优于强基线。

    Mar, 2022

  • 仅解码流式变换器用于同声传译

    在这篇论文中，我们介绍了一种名为 Decoder-only Streaming Transformer (DST) 的 Decoder-only SiMT 模型，该模型通过编码源前缀和目标前缀的位置来确保目标前缀的位置不受源前缀扩展的影响，并通过 Streaming Self-Attention 机制获取翻译策略来生成翻译，实验证明我们的方法在三个翻译任务中实现了最先进的性能。

    Jun, 2024

  • 通过二分搜索学习同时机器翻译的最优策略

    本文提出了一种利用二分查找在线构建最佳策略的方法来实现并行句子翻译的优化，通过显式监管来实现最优策略的学习，从而在所有延迟情况下超越了强基线。

    May, 2023

  • 隐马尔可夫变换器用于同时机器翻译

    利用隐马尔科夫模型以及最大化边际似然性训练，提出了一种名为 Hidden Markov Transformer 的模型，用于解决同声机器翻译中好的翻译时间点的挑战。实验表明该模型在多个数据集上优于现有方法并取得了最佳表现。

    Mar, 2023

  • 基于词级策略的增强式同时机器翻译

    研究表明，在同时机器翻译中，使用词级操作的策略优于子词级操作的策略，并且提出了一种使用语言模型提升翻译模型的方法。

    Oct, 2023

  • 同时机器翻译的展望

    该研究提出了一种新方法，通过课程学习以逐步减少可用的源信息，从而实现从序列到序列训练到前缀到前缀训练的过渡，以增强同步机器翻译模型的翻译能力。实验证明，该方法优于强基准模型。

    Sep, 2023

  • TransLLaMa: 基于 LLM 的同步翻译系统

    经过小规模数据集上的微调后，预训练的开源解码器 - 仅模型可以通过生成特殊的 “等待” 标记直接控制输入分段，从而在同时翻译任务中达到与最先进基准模型相媲美的 BLEU 分数；尚未进行先前训练的闭源模型在此任务中显示出令人鼓舞的结果，为改进未来的同时翻译系统指明了一个有希望的方向。

    Feb, 2024

  • 将固定转为自适应：将后评估集成到同时机器翻译中

    本文提出了一种将后评估集成到固定策略中的方法，通过测量源内容的变化来评估下一个操作的合理性，并根据评估结果采取不同的操作，这种自适应策略在三项翻译任务中均优于强基准线。

    Oct, 2022