Jul, 2021

USTC-NELSLIP 在 IWSLT 2021 的同声传译系统

PDF
TL;DR本文介绍了中国科技大学 - 智能语音处理研究组在 IWSLT2021 同声传译（Simultaneous Speech Translation）比赛中的参赛作品。我们提出了一种新颖的同声翻译模型 Cross Attention Augmented Transducer（CAAT），该模型可以在没有单调性约束的情况下进行序列到序列任务，例如同时翻译。我们在语音到文本（S2T）和文本到文本（T2T）同时翻译任务上进行实验，结果显示 CAAT 相对于之前的最先进方法之一 wait-k 实现了更好的质量 - 延迟权衡。基于 CAAT 架构和数据增强，我们在这次评估活动中构建 S2T 和 T2T 同时翻译系统，相比去年的最佳系统，我们的 S2T 同时翻译系统平均提高了 11.3 BLEU，而我们的 T2T 同时翻译系统平均提高了 4.6 BLEU。
simultaneous translationcross attention augmented transducerquality-latency trade-offssequence-to-sequence tasksdata augmentation
发现论文，激发创造
  • USTC-NEL 在 IWSLT 2018 的语音翻译系统

    本论文讨论了 USTC-NEL 系统在 2018 年 IWSLT 评估的语音翻译任务中的应用，使用了传统的管道系统，包含三个模块：语音识别、后处理和机器翻译。我们训练了一组混合 - HMM 模型进行语音识别，并使用语音识别输出风格的文本作为输入来训练基于 transformer 的神经机器翻译模型。在 IWSLT 2018 任务上的实验表明，相较于 KIT 的基线系统，我们的系统实现了 14.9 的 BLEU 改善。

    Dec, 2018

  • 2024 年 IWSLT 大会 NAIST 同时语音翻译系统

    该研究论文描述了 NAIST 参与 IWSLT 2024 评估活动的同时研究领域：英语到 {德语、日语、中文} 的语音文本翻译和英语到日语的语音语音翻译。他们开发了一个多语言端到端语音文本翻译模型，结合了两个预训练语言模型 HuBERT 和 mBART。通过两种解码策略（即本地一致性和 AlignAtt），他们训练了该模型，最终采用了本地一致性策略。他们的语音语音翻译方法是以上述语音文本模型作为初始，并结合包含音素估计模型、并行声学模型和并行 WaveGAN 声码器的渐进式文本语音模块。通过应用 Transformer 架构和 AlignAtt 策略改进的渐进式文本语音模块，结果显示他们的升级 TTS 模块有助于改善系统性能。

    Jun, 2024

  • 2021 年 IWSLT 的 Volctrans 神经语音翻译系统

    该论文介绍了 Volctrans 团队在 IWSLT 2021 中提交的系统，包括离线语音翻译和文本 - 文本同时翻译。他们采用端到端模型进行离线语音翻译，在 MuST-C 测试集上比基准结果提高了 8.1 BLEU 分值，并接近强级联解决方案的结果。针对文本 - 文本同时翻译，他们探索了最优的 wait-k 模型实践，并且在相同的延迟范围内超过了基准结果约 7 BLEU 分值。他们已发布代码和模型以促进未来的研究工作和工业应用。

    May, 2021

  • 从 SimulMT 到 SimulST: 将同时翻译文本转换为端到端同时翻译语音

    本文调查了如何将同步文本翻译方法与同时语音翻译相结合，并通过引入预决定模块来适应于端到端的同时语音翻译。同时，对将固定和灵活的预决策与固定和灵活的策略相结合的延迟质量权衡进行了详细分析。作者还设计了一种新的计算感知的延迟度量方法，该方法从平均滞后进行调整。

    Nov, 2020

  • 利用同步的流式 ASR 辅助的直接同声传译

    本文提出一种新型的语音翻译范例，通过使用两个分离但同步的解码器，一个用于流式 ASR, 一个用于直接语音翻译，并通过 ASR 生成的中间结果指导直接语音翻译，实现了流畅度更高的翻译质量。

    Jun, 2021

  • ESPnet-ST IWSLT 2021 离线语音翻译系统

    本研究描述了 ESPnet-ST 组在 IWSLT 2021 中提交的语音翻译模型。通过训练数据、模型架构和音频分割等方面的努力，结合多种技术如序列级知识蒸馏、Conformer 编码器等，同时使用模型组合达到了 31.4 BLEU 的最佳翻译性能。

    Jul, 2021

  • 2020 年 IWSLT 挑战赛：ON-TRAC 贯穿端到端和同时语音翻译联盟

    该研究论文讲述了 ON-TRAC Consortium 翻译系统在 2020 年 IWSLT 评估活动中开发的两个挑战赛轨道（离线语音翻译和同传语音翻译）的使用，主要使用基于注意力机制的编码器 - 解码器模型进行训练，该模型实现了数据增强和多模型集成等贡献，并探讨了一种控制 ASR+MT 级联延迟的算法，以实现良好的延迟 - 质量折衷的平衡。

    May, 2020

  • KIT 的 IWSLT 2023 多语言语音翻译系统

    本文介绍了一种针对具有口音的输入语音和术语密集的内容进行科学会议演讲翻译的语音翻译系统，使用了 kNN-MT 方法进行有效适应，该系统远优于其端对端对应物。

    Jun, 2023

  • IWSLT 2022 年同声传译任务 CUNI-KIT 系统

    本文介绍了我们在 IWSLT 2022 Simultaneous Speech Translation 比赛中的参赛作品，探讨了如何在不修改原始模型的情况下，在同步设置中利用离线模型的策略。在实验中，我们展示了我们的在线算法几乎与离线设置相等，而在测试集上的延迟方面比离线快 3 倍。我们还展示了在线化的离线模型在中高延迟区间比最佳 IWSLT2021 同声翻译系统表现更好，在低延迟区间则几乎持平。我们的系统已经公开发布。

    Apr, 2022

  • 使用离散单元进行直接语音到语音翻译

    本研究提出一种直接语音到语音的翻译模型，它可以在不依赖中间文本生成的情况下将一种语言的语音翻译成另一种语言的语音，并且结合了自我监督离散语音编码和序列到序列的语音到单位翻译，以预测目标语音的离散表示，并在同一推断通过实现同步生成双重模态输出（语音和文本）。在 Fisher 西班牙语 - 英语数据集上，我们的模型较基线直接 S2ST 模型改进了 6.7 BLEU。由于能够支持未书写语言的翻译，当没有文本转录时，我们的模型表现与训练有文本监督的谱图预测模型相当。

    Jul, 2021