ACLAug, 2018

用神经半马尔可夫条件随机场进行鲁棒的基于字符的词性标注

PDF
TL;DR本文提出了一种基于字符级别的新型端到端模型，不需要分词器，采用半隐马尔可夫条件随机场和神经网络的结合，证明了其在多语言环境和存在嘈杂的 token 边界下的高效性。在嘈杂的英语词性标注基准数据集上，我们的模型明显优于同类模型，并和现有技术方法取得了一致的表现。
character-level modelsend-to-end modelsemi-markov conditional random fieldmultilingualnoisy token boundaries
发现论文，激发创造
  • 利用多任务神经网络模拟噪声以识别社交媒体中的命名实体

    本文提出两种利用字符级音韵、词嵌入和词性标注等特征解决社交媒体文本处理困难的模型，比现有技术在噪声环境下的表现更好， F1 得分比之前提高了 2.45% 和 3.69%。

    Jun, 2019

  • 双向长短时记忆循环神经网络进行词性标注

    使用词嵌入的双向 LSTM 循环神经网络模型（BLSTM-RNN）在词性标注任务中表现出色，可以达到 97.40％的准确率，而且不需要使用形态学特征，同时具备与斯坦福词性标注器相当的性能。

    Oct, 2015

  • 一个特征丰富的神经模型用于中文分词和词性标注

    本文提出了用于中文分词和词性标注任务的特征丰富的神经模型，使用卷积和池化层模拟传统离散特征模型的特征模板，并结合循环层使用长距离依赖信息。实验结果表明，该模型的效果显著。

    Nov, 2016

  • 使用双向 RNN-CRF 实现基于字的中文联合分词与词性标注

    我们提出了一个基于字符的模型来同时进行中文分词和词性标注，该模型采用双向 RNN-CRF 架构进行序列标记，并利用捕捉丰富上下文信息和低于字符级别的特征的新型向量表示的汉字。实验结果表明，我们的模型在不同大小、文体和注释方案的数据集上都很准确和稳健，在 CTB5 上实现了最佳性能，联合分词和词性标注的 F1 分数达到了 94.38。

    Apr, 2017

  • 混合半 - Markov CRF 用于神经序列标记

    本文提出基于条件随机场的混合半马尔可夫模型，应用于自然语言处理中的神经序列标注任务，该模型采用词级别和片段级别的信息同时作为特征来提升性能，在 CoNLL 2003 命名实体识别任务中取得了最好的结果。

    May, 2018

  • 双向 LSTM-CNNs-CRF 的端到端序列标注

    本文提出了一种新颖的神经网络体系结构，该体系结构利用了双向 LSTM，CNN 和 CRF 的组合，自动地从单词和字符级别表示中受益。我们的系统是真正的端到端的，不需要特征工程或数据预处理，因此适用于广泛的序列标注任务。我们在两个数据集上对我们的系统进行了评估，即 Penn Treebank WSJ 语料库用于词性标注和 CoNLL 2003 语料库用于命名实体识别。我们在这两个数据集上获得了最先进的性能 - 词性标注的准确率为 97.55％，命名实体识别的 F1 值为 91.21％。

    Mar, 2016

  • 从零开始的跨语言多任务序列标记

    本文提出了一种基于深度神经网络的序列标注方法，其包含多语言、多任务学习和交叉语言联合训练，并在包括词性标注、分块和命名实体识别等多个任务中取得了最优性能。

    Mar, 2016

  • 跨语种字符级神经形态标注

    本文研究如何利用转移学习的方法，通过训练 character-level recurrent neural taggers 的方式，使得高资源语言和低资源语言都能够正确预测 morphological taggings，成功地实现了多语言间的知识迁移，有效提高了准确性达 30%。

    Aug, 2017

  • 跨语言、字符级别的低资源命名实体识别的神经条件随机场

    通过字符级神经 CRF 模型进行跨多个语言的命名实体识别的迁移学习，使得在资源丰富和资源匮乏的语言中都能提高 F1 分数，并在基线上提升 9.8 个点。

    Apr, 2024

  • 中文神经分词学习

    本文提出了一种新颖的神经网络框架，利用门控组合神经网络和 LSTM 语言评分模型，消除上下文窗口，可以利用完整的分词历史，产生分布式表示，从而实现中文分词，并在基准数据集上进行实验，结果不需要使用现有方法的特征工程，获得了与现有最先进方法相当甚至更好的性能。

    Jun, 2016