Feb, 2016

基于循环神经网络的提及检测鲁棒性探究

PDF
TL;DR本文研究了基于循环神经网络（RNN）的提及检测系统的鲁棒性及其在信息提取中的应用，表明在英语的普通或跨领域的情况下，RNNs 不仅在通用情况下优于之前报告的最佳系统（最多可达 9％的相对错误降低），而且在荷兰语中表现出的命名实体识别相似任务中，RNNs 比传统方法显著优越（最多可达 22％的相对错误降低）。
natural language processingneural networksmention detectioninformation extractioncross-domain performance
发现论文，激发创造
  • 深度循环神经网络语音识别

    本文研究了将深度网络的多层表示与强大的 RNN 模型相结合的模型 - 深度递归神经网络，通过合适的正则化和端到端的训练方法，该模型在 TIMIT 语音识别基准测试中获得了最佳记录得分 17.7％。

    Mar, 2013

  • 基于循环神经网络的关系分类

    本文提出了一种基于循环神经网络的简单框架，并将其与基于卷积神经网络的模型进行比较。该模型在处理句子关系分类问题时具有学习长距离依赖关系模式的优点，并在使用 MIMLRE 数据集的实验中表现出优异的性能。

    Aug, 2015

  • 神经式提及检测

    本篇论文提出了三种基于神经网络的提及检测方法，并在共指消解和 NE 嵌套任务中进行了评估和应用，基于最佳方法得出的模型在提高性能方面表现出色。

    Jul, 2019

  • 卷积神经网络和循环神经网络在自然语言处理中的比较研究

    本文章首次系统地比较了卷积神经网络与循环神经网络在多个自然语言处理任务上的表现，为深度学习网络的选择提供了基本指导。

    Feb, 2017

  • 命名实体识别的神经重排

    本文提出了一种神经再排序系统，用于命名实体识别，利用递归神经网络模型来学习涉及命名实体提及的句子级模式，使用 LSTM 和 CNN 结构来学习这些句子的深层表示以进行再排序。实验结果表明，我们的系统可以显著提高命名实体识别准确率，超过了两个不同的基线，并在标准基准测试中报告了最好的结果。

    Jul, 2017

  • 循环神经网络在序列学习中的关键评估

    本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

    May, 2015

  • 循环记忆网络语言建模

    本文提出了一种新的循环神经网络体系结构 Recurrent Memory Network（RMN），不仅能够放大循环神经网络的作用，而且有助于我们理解其内部功能并发现数据中的潜在模式。在语言建模和句子完成任务上展示了 RMN 的强大性能。在长句完成挑战中，RMN 的准确性为 69.2％，超过了以前的最新技术水平。

    Jan, 2016

  • 使用共指的多提及推理神经模型

    本文提出了一种针对 NLP 中需要汇总来自远处的同一实体的信息的情况的循环层，该层使用外部系统提取的指代注释连接属于同一簇的实体提及，并将其合并到最先进的阅读理解模型中，从而改善了 Wikihop、LAMBADA 和 bAbi 人工智能任务的性能，并且可在数据稀缺时获得大的收益。

    Apr, 2018

  • 人类句子加工：循环或注意力？

    通过比较基于循环神经网络和 Transformer 架构的语言模型在人类语言处理方面的能力，本文揭示了 Transformer 在解释自定步调阅读时间和阅读过程中神经活动方面优于 RNN，并挑战了人类句子处理涉及循环和即时处理的普遍理念，并提供了线索检索的证据

    May, 2020

  • TopicRNN: 一种具有长程语义依赖的循环神经网络

    本文提出了基于 TopicRNN 的语言模型，它结合了 RNN 和潜在主题模型的优点，能够捕捉本地（句法）和全局（语义）依赖关系，并更好地预测单词。实证结果表明，TopicRNN 在单词预测方面优于现有的上下文 RNN 基线，并且可以作为无监督特征提取器用于情感分析。

    Nov, 2016