Mar, 2017

使用双向递归神经网络联合学习相关的序列标注任务

PDF
TL;DR本文提出了一种使用双向循环神经网络联合对应多个相关任务的新技术，用于在缺乏标点和格式化的自动语音识别输出中改善标点和大写字母的性能，并可扩展到联合建模任何其他相关序列标记任务。
automatic speech recognitionnatural language processingrecurrent neural networkssequence labeling taskscorrelated tasks
发现论文，激发创造
  • ASR 纠错和语言理解的联合上下文建模

    该研究提出了一种多任务神经网络方法，通过对话系统中的语音识别输出进行上下文语言纠正和语言理解以改善两个任务的性能，从而提高自动语音识别的质量。

    Jan, 2020

  • 面向会话语音的标点符号预测模型

    本文通过训练基于深度神经网络技术的双向长短期记忆网络（BLSTM）和卷积神经网络（CNN）的序列标注模型，来解决语音识别系统中无法正常预测标点符号的问题，并且通过在 Fisher 语料库上的实验证明，基于卷积神经网络预测标点符号的方法更加精确。同时，本文结果表明，将 Fisher 语料库转化为时间对齐的文本以及采用预训练嵌入模型可以提高标点预测的准确性。

    Jul, 2018

  • 双向 LSTM-CNNs-CRF 的端到端序列标注

    本文提出了一种新颖的神经网络体系结构，该体系结构利用了双向 LSTM，CNN 和 CRF 的组合，自动地从单词和字符级别表示中受益。我们的系统是真正的端到端的，不需要特征工程或数据预处理，因此适用于广泛的序列标注任务。我们在两个数据集上对我们的系统进行了评估，即 Penn Treebank WSJ 语料库用于词性标注和 CoNLL 2003 语料库用于命名实体识别。我们在这两个数据集上获得了最先进的性能 - 词性标注的准确率为 97.55％，命名实体识别的 F1 值为 91.21％。

    Mar, 2016

  • 一个统一的标注解决方案：使用词嵌入的双向 LSTM 递归神经网络

    本研究提出了一种基于双向长短期记忆递归神经网络（BLSTM-RNN）的统一标记解决方案，可应用于各种标记任务，包括词性标注、分块和命名实体识别，该方法利用从无标记文本中学习的一组独立任务特征和内部表示，并不需要特定的任务知识或复杂的特征工程，在所有这三个标记任务中获得了几乎最先进的性能。

    Nov, 2015

  • 使用双向递归神经网络引导多语言文本分析工具

    本文旨在研究对于资源贫乏的语言的快速语言注释工具的发展，我们采用递归神经网络模型实验了多种跨语言注释映射方法。我们提出了一种真正的多语言标记器方法，并通过使用平行语料库证实了其有效性和通用性。

    Sep, 2016

  • 用双向递归神经网络进行具有结构的标记的令牌级别标注

    利用深度循环神经网络的双向表示方法，将句子的二叉分析树作为结构信息，结合单词向量的初始表示方法，提出了一种可以捕捉输入附近的结构信息用于标记实例的新架构，并在情感表达提取任务上进行了初步实验。

    Dec, 2013

  • 基于多任务学习的文本分类循环神经网络

    本文提出了基于多任务学习框架的神经网络方法，采用循环神经网络来建模具有特定任务和共享层的文本，并在四个基准文本分类任务的实验中显示出该方法可以提高其他相关任务的性能。

    May, 2016

  • 双向语言模型的半监督序列标注

    本文探讨了一种半监督的方法，通过添加双向语言模型的预训练上下文嵌入到 NLP 系统中用于序列标注任务，相比其他转移学习或添加标记数据和任务特定词典的方法，在命名实体识别和块分割等任务上实现了最先进的结果。

    Apr, 2017

  • 稀疏注意力神经网络联合训练的序列标记和分类

    提出一种利用 LSTM 网络同时学习句子级别分类任务和序列标注任务的模型，通过语义相关性对单词进行加权的稀疏注意力机制，该方法在 ATIS 和 TREC 数据集上表现优于基准模型。

    Sep, 2017

  • 从零开始的跨语言多任务序列标记

    本文提出了一种基于深度神经网络的序列标注方法，其包含多语言、多任务学习和交叉语言联合训练，并在包括词性标注、分块和命名实体识别等多个任务中取得了最优性能。

    Mar, 2016