Feb, 2018

面向端到端英日语音翻译的基于结构的课程学习

PDF
TL;DR本文研究了针对词序排序问题的不同语言之间的语音翻译的端到端任务。通过提出基于结构的课程学习策略，从简单到复杂的网络结构，引导编码器 - 解码器注意力模型学习这个困难的问题，结果表明与未进行课程学习的方法相比，该方法可以提供显着的改进。
sequence-to-sequenceneural network architecturesend-to-end speech translationstructured-based curriculum learning strategyencoder-decoder attentional model
发现论文，激发创造
  • 端到端语音翻译课程预训练

    本研究提出了一个基于课程学习的预训练方法，旨在通过逐步增加难度的课程来加强编码器的语音特征提取能力，实现端到端的语音翻译，实验结果表明，该方法在 En-De 和 En-Fr 语音翻译基准测试中取得了显著的改进。

    Apr, 2020

  • 端到端自动语音识别新课程标准的比较与分析

    本篇论文探讨了如何通过 Curriculum Learning 使用有组织的训练数据，以提高机器学习模型的性能，并在语音识别领域证明了这一方法的有效性。

    Aug, 2022

  • 序列对序列模型可直接翻译外语

    我们提出一种递归编码器 - 解码器深度神经网络架构，直接将一种语言中的语音转换为另一种语言中的文本，通过多任务训练序列到序列的语音翻译和识别模型通过共享编码器网络来提高性能。

    Mar, 2017

  • 定时多任务学习：从句法到翻译

    提出了一种神经编码器 - 解码器机器翻译模型框架，该模型开始交替学习语法和翻译，逐渐将重点放在翻译上，实现了在相对较大的平行语料库（WMT14 英语到德语）和低资源（WIT 德语到英语）设置中的 BLEU 得分显着提高。

    Apr, 2018

  • 基于课程的迁移学习：实现端到端口语理解和领域可移植性

    利用端到端无需繁琐操作的口语理解技术，采用基于课程学习（curriculum learning）原理的迁移学习（transfer learning）策略，结合外域数据来构建全神经元架构。本方法在对法语 MEDIA 和 PORTMEDIA 录音数据的实验中表现优异，相比于传统的基于 ASR、POS 标注、词形还原、组块均取器等自然语言处理工具的多管齐下方法，本方法无需进行繁琐的词性、语法处理即可轻松达成目的，同时具备优秀的领域泛化能力。

    Jun, 2019

  • 用于稳健和高效数据的端到端语音翻译的关注传递模型

    通过多任务训练，提出了一种使用两个注意力机制的端到端可训练模型，用于直接语音翻译。该模型明显优于其他基线模型，并能更有效地利用辅助训练数据，特别适合于多任务训练。

    Apr, 2019

  • 基于序列到序列模型的直接语音到语音翻译

    该研究提出了一种基于注意力机制的端到端学习的序列到序列神经网络，能够直接将一种语言的语音翻译成另一种语言的语音，无需中间文本表示，该方法通过学习将语音谱图映射到目标语言的谱图，同时也演示了译后语音合成的能力。研究在两个西班牙语到英语的语音翻译数据集上进行了实验，证明了该方法在这个极具挑战的任务上的可行性。

    Apr, 2019

  • 神经机器翻译中课程学习的实证探索

    采用概率课程学习方法，可以在不损失翻译质量的前提下，缩短德语 - 英语翻译模型的收敛时间，但具体效果受到样本难度标准、课程表和超参数的影响。

    Nov, 2018

  • 基于端到端的语音转文本翻译的比较研究

    本文介绍了深度学习在语音到文本翻译领域的应用，主要研究了不同端到端架构以及辅助性连接主义时间分类（CTC）损失函数的使用，着重探讨了预训练模型对最终性能的影响，实验证明预训练模型可以使 BLEU 指标提高 4％，TER 指标提高 5％，并且在 270 小时 IWSLT TED 演讲 En->De 和 100 小时 LibriSpeech Audiobooks En->Fr 上的实验结果表明，该方法可以超过当前的端到端最先进系统。

    Nov, 2019

  • 多语言端到端语音翻译

    本文提出了一种简单且有效的多语言端到端语音翻译框架，并证明了其在自动语音识别、机器翻译、一对多翻译以及多对多翻译中的有效性以及相对于双语端到端语音翻译的优势。

    Oct, 2019