ACLMay, 2021

可搜索的隐藏中介于可分解序列任务的端对端模型

PDF
TL;DR我们提出了一个利用分解子任务进行可搜索的中间隐层表示学习的端到端框架，在语音翻译等复杂序列任务上实现了优越的性能。
sequence tasksspeech translationend-to-end frameworkcompositionalitymulti-decoder model
发现论文，激发创造
  • 子任务分解使序列到序列任务学习成为可能

    本文证明，将中间监督合并到输入中、在修改过的输入上训练序列到序列模型时，无法学习的复合问题可以变得可学习。

    Apr, 2022

  • 紧密集成的级联语音翻译端到端训练

    本文提出了一种端到端的可训练语音翻译模型，通过优化所有 ASR 和 MT 模型的参数而避免级联模型中的误差传播，并且通过使用人工神经网络实现 backpropagation 传递误差以实现同时提供转录和翻译，对于四个不同数据场景的实验表明，该模型在 BLEU 和 TER 方面均优于传统级联模型和直接模型。

    Nov, 2020

  • 基于编码器 - 解码器的语音识别中的低层辅助任务多任务学习

    本研究探讨了将中间表示作为深度网络低层的辅助监督的方法，将传统的 pipeline 方法与端到端的训练方法相结合，实验结果表明这种方法提高了对话语音识别的识别准确性。

    Apr, 2017

  • 定时多任务学习：从句法到翻译

    提出了一种神经编码器 - 解码器机器翻译模型框架，该模型开始交替学习语法和翻译，逐渐将重点放在翻译上，实现了在相对较大的平行语料库（WMT14 英语到德语）和低资源（WIT 德语到英语）设置中的 BLEU 得分显着提高。

    Apr, 2018

  • 神经语音翻译的绑定多任务学习

    本文探讨了用于神经语音翻译的多任务模型，并对其进行增强，以反映两个直观概念。精准的中间表示和神经关联的模式，参与模型的训练可以提高低资源语音转录和翻译任务的性能。

    Feb, 2018

  • 序列对序列模型可直接翻译外语

    我们提出一种递归编码器 - 解码器深度神经网络架构，直接将一种语言中的语音转换为另一种语言中的文本，通过多任务训练序列到序列的语音翻译和识别模型通过共享编码器网络来提高性能。

    Mar, 2017

  • 面向端到端英日语音翻译的基于结构的课程学习

    本文研究了针对词序排序问题的不同语言之间的语音翻译的端到端任务。通过提出基于结构的课程学习策略，从简单到复杂的网络结构，引导编码器 - 解码器注意力模型学习这个困难的问题，结果表明与未进行课程学习的方法相比，该方法可以提供显着的改进。

    Feb, 2018

  • 利用文本数据增强语音转文本任务的通用多任务学习框架

    本文提出了一种多任务学习框架，利用文本数据来提高自动语音识别和语音翻译的性能，其中包括基于注意力的序列到序列建模、去噪自动编码器、机器翻译等技术。在英语语音识别任务中，该方法相对于基线线下降了 10~15% 的词错误率，在 MuST-C 任务中有 3.6~9.2 BLEU 的提高。

    Oct, 2020

  • 自然语言多任务：分析和提高隐藏表示的句法显著性

    训练多任务自动编码器进行语言任务，分析学习到的句子隐藏表示。加入翻译和词性解码器时，表示将显着改变。使用的解码器越多，模型根据句法相似性对句子进行聚类的效果越好。通过插值句子来探索表示空间的结构，得出很多有可识别句法结构的伪英语句子。最后，我们指出了模型的一个有意思的特性：两个句子之间的差分向量可以添加到第三个具有类似特征的句子中，以有意义的方式改变它。

    Jan, 2018

  • 学会分解：基于可比文本的假想问题分解

    本文研究大规模中介设备的预训练，在使用来自可比文本，特别是大规模平行新闻的远程监督的情况下将显式分解建模应用于自然语言理解系统。作者称使用这种中间预训练可以更容易地开发强大的显式分解模型。例如，该模型在语义分析方面取得了 20％至 30％的改进，并用于构建名为 DecompEntail 的新型显式分解问答系统。

    Oct, 2022