本文提出了一种采用隐式内存推理机制的新型左上下文方法的隐式存储变形器，以提高流式翻译的速度和性能，并在 MuST-C 数据集上进行实验以证明该方法优于现有方法。

Jul, 2023

本文提出了一种针对实时应用场景的端到端增强记忆 Transformer 编码器，成功地应用于流式同声传译任务，可以处理大量连续输入，相较于单向掩码 Transformer 模型，具有更好的延迟和质量平衡。

Oct, 2020

利用多段模型进行上下文翻译，在不需要额外的语言特定调整和特定任务结构的情况下，通过增加模型容量并使用知识蒸馏技术，取得了可比较的性能，更适合捕获上下文依赖关系。

Oct, 2022

本文中，我们提出了一种新的学习算法，用于增进神经机器翻译模型对附加上下文的理解，通过使用多级成对排名损失函数，我们在基于 transformer 的大语境翻译系统中进行了评估，并通过与实际和随机语境下的性能对比表明，使用所提出的算法训练的模型对额外上下文的理解更敏感。

Mar, 2019

机器同时翻译（SiMT）旨在实时产生一个具有单调增长源侧上下文的部分翻译。然而，存在一个关于训练和测试之间上下文使用的反直觉现象：例如，以 wait-k 一致训练的 wait-k 测试模型在翻译质量方面明显劣于以 wait-k'（k' 不等于 k）一致训练的模型。为此，我们首先调查了这一现象背后的原因，并发现了以下两个因素：1）翻译质量与训练（交叉熵）损失之间的有限相关性；2）训练和测试之间的曝光偏差。基于这两个原因，我们提出了一种有效的培训方法，称为上下文一致性训练，通过优化翻译质量和延迟作为双目标，并在训练过程中向模型暴露预测结果，使训练和测试之间的上下文使用保持一致。三种语言对的实验证明了我们的直觉：我们鼓励上下文一致性的系统首次在上下文不一致性的现有系统之上取得了更好的性能，借助于我们的上下文一致性训练方法。

Nov, 2023

本研究提出基于块状，流式 Transformer 的方法，通过流式处理和块状并行检索，在同时进行自然语言理解和语音翻译等多个语音处理任务中，实现实时处理并取得与离线模型相当甚至更高的性能表现，并通过引入自动语音识别中间层损失约束和跨语言编码方法等方式进一步提高分类性能和模型表现。

Apr, 2022

提出一种新的分割方法，用于低延迟的端到端同时语音翻译，并且在多种语言对和领域数据中显示出具有先进水平的质量。

Sep, 2023

从人类翻译的角度出发，我们提出了一种基于多模态变压器架构的上下文感知翻译方法，通过利用上下文信息和自信预测来消除较弱的视觉线索，在最终的变压器解码器中组合来自视频、识别出的手语词汇和前面手语序列的上下文信息，显著提高了本文提出方法在较大规模数据集和公开数据集上的机器翻译性能，近乎翻倍地提高了基线方法的 BLEU-4 分数。

Aug, 2023

通过使用源上下文信息优化的翻译模型以提高机器翻译性能，我们提出了一种使用目标上下文信息的新颖扩展，令人惊讶的是，我们证明可以将该模型直接高效地集成在解码过程中，我们的方法可以应用于大规模训练数据，对四种语言对的语言翻译质量有一致提高，我们提供了分析，比较基线基于源上下文模型的优势，以及我们扩展的源上下文和目标上下文模型，结果显示，我们的扩展可以更好地捕捉形态学一致性。

Jul, 2016

本文介绍了一种新的度量模型使用上下文的方法，并提出了一种新的训练方法来增加上下文感知模型的使用率。实验证明，这种方法可以提高翻译质量和语义连贯性。

May, 2021