使用迭代膨胀卷积实现快速准确的实体识别

EMNLPFeb, 2017

使用迭代膨胀卷积实现快速准确的实体识别

Fast and Accurate Entity Recognition with Iterated Dilated Convolutions

Emma Strubell, Patrick Verga, David Belanger, Andrew McCallum

TL;DR本文提出了一种比 Bi-LSTMs 更快的 NER 方法：使用迭代扩张卷积神经网络（ID-CNNs），其允许在整个文档中同时运行具有固定深度的卷积，相比 Bi-LSTM-CRF，保持相当的准确性并获得了 14-20 倍的测试时间加速，在整个文档中聚合上下文的 ID-CNN 的准确性更高，同时保持 8 倍的测试时间速度。

Abstract

Today when many practitioners run basic nlp on the entire web and large-volume traffic, faster methods are paramount to saving time and energy costs. Recent advances in GPU hardware have led to the emergence of bi-directional LSTMs as a standard method for obtaining per-token vector re

nlp bi-lstms iterated dilated convolutional neural networks gpu parallelism ner

发现论文，激发创造

CNN+CNN：用于图像字幕生成的卷积解码器

本文在图像字幕生成方面，提出了一种仅利用卷积神经网络生成字幕的框架，通过并行计算，训练速度比基于 LSTM 的模型快 3 倍，同时在 MSCOCO 图像字幕数据集上获得了比 LSTM 更高的评估得分。

May, 2018

双向 LSTM-CNN 命名实体识别

本文提出了一种新颖的神经网络模型，利用混合双向 LSTM 和 CNN 架构自动检测单词和字符级特征，并提出了一种将部分词典匹配编码到神经网络中的方法。经过广泛评估，使用两个来自公开资源的词典，该系统在 CoNLL-2003 数据集上达到 91.62 的 F1 分数，在 OntoNotes 上达到 86.28 的 F1 分数，超过了其他采用重度特征工程、专有词典和丰富的实体链接信息的系统。

Nov, 2015

使用扩张迭代图卷积网络进行依赖关系分析

提出一种基于图卷积神经网络的依存句法分析架构 (DIG-CNNs)，利用 GPU 的并行处理能力实现了高效的端到端句法分析，同时在英语 Penn TreeBank 基准测试中，DIG-CNNs 与一些最好的神经网络解析器表现相当。

May, 2017

并行多维 LSTM 及其在快速生物医学体积图像分割中的应用

本文提出了一种用于图像分割的 PyraMiD-LSTM 模型，相较 Convolutional Neural Networks 和 Multi-Dimensional Recurrent NNs 具有更好的数据并行化的能力，并在 MRBrainS13 中实现了最佳像素级别的脑影像分割结果。

Jun, 2015

利用 CNN 和 LSTM 提升物联网安全性的入侵检测系统

提出了一种结合卷积神经网络（CNN）和长短期记忆（LSTM）深度学习模型的入侵检测系统（IDS）模型，用于保护物联网设备免受网络攻击的伤害，通过利用 CNN 的空间特征提取功能进行模式识别和 LSTM 的顺序记忆功能进行复杂时序依赖分析，实现了高精度和高效率的物联网流量检测和分类，验证结果表明该模型对于物联网环境的网络威胁具有很好的防御效果。

May, 2024

LVCSR 的非常深卷积神经网络的进展

本文探讨了如何有效地扩展使用小型 3x3 卷积核的深度卷积神经网络作为混合 NN-HMM 语音识别系统的声学模型，提出了一种新的 CNN 设计，通过批量归一化来恢复去除时间池化带来的性能损失，确保模型快速、高效地解决长切分音频识别。

Apr, 2016

GRN: 用门控关系网络增强卷积神经网络以提升命名实体识别性能

本文提出了一种基于 gated relation network 的卷积神经网络模型，用于更好地捕捉词汇间的长期关联以用于命名实体识别，实验结果表明，该模型可以在 CoNLL2003 和 Ontonotes 5.0 数据集上实现最先进的性能。

Jul, 2019

使用 ConvNets 的快速阅读理解

本文介绍了一种卷积架构，用简单的扩张卷积单元代替循环单元，取得了与循环神经网络同等水平的结果，在回答问题方面获得了多达两个数量级的加速。

Nov, 2017

应用于句子分类的密集连接双向 LSTM

本文提出了一种新的多层 RNN 模型 —— 密集连接的双向长短期记忆网络 (DC-Bi-LSTM)，并在五个句子分类基准数据集上进行了评估。结果显示，相比同等或更少的参数的传统双向 LSTM，深度为 20 的 DC-Bi-LSTM 模型可以成功训练，并获得了显著的改进。此外，与最先进方法相比，我们的模型表现具有很好的潜力。

Feb, 2018

超越短片段：用于视频分类的深度网络

本论文提出和评估了几个深度神经网络架构，用于对比以往更长时间段内视频图像信息的组合。通过一些新的方法，包括卷积时间特征池化和循环神经网络结构，该论文指出最佳神经网络在 Sports 1 million 数据集（73.1％对 60.9％）和 UCF-101 数据集中（88.6％对 88.0％）及无附加光流信息（82.6％对 72.8％）上明显性能提高。

Mar, 2015