NIPSAug, 2017

反卷积段落表示学习

PDF
TL;DR本研究通过提出一种基于卷积自编码的序列到序列的方法，解决了长文本序列编码与解码时 RNN 存在的问题，同时具有良好的重构和校正能力，适用于自然语言处理中众多应用。在半监督文本分类和摘要生成任务中的定量评估表明，该方法可以更好地利用长篇未标注的文本数据。
natural language processingrecurrent neural networkssequence-to-sequenceconvolutional autoencodingtext reconstruction
发现论文，激发创造
  • 使用卷积神经网络学习通用的句子表示

    本文提出了基于 CNN 编码器和 LSTM 解码器的分布式句子表征学习方法，旨在实现对多种任务的应用。作者通过训练模型在大规模小说数据集上获得高通用性的卷积句子编码器，并通过多项实验表明该模型在各类应用中均优于竞争方法。

    Nov, 2016

  • 段落和文档的分层神经自编码器

    该论文探索了自然语言生成的一项重要任务，并通过训练 LSTM 自动编码器来实现对多句段落的保留和重构，评估结果表明神经模型能够以一种保存句法、语义和语篇连贯性的方式对文本进行编码。

    Jun, 2015

  • 文本序列匹配的解卷积潜变量模型

    本文介绍一种潜变量模型，用于文本匹配，通过联合优化生成目标和判别目标来推断句子表示，采用反卷积网络作为序列解码器以缓解潜变量模型中的典型优化挑战，提供更多语义信息和更好的泛化性能；在无监督方式下训练的模型比基于 LSTM 的解码器具有更强的实证预测性能，参数更少，训练速度更快；进一步应用于文本序列匹配问题，在半监督设置下，所提出的模型显著优于几个强的句子编码基线。

    Sep, 2017

  • 高效纯卷积文本编码

    本文提出了一种轻量级的卷积神经网络结构，可用于创建句子的定长向量嵌入表示，可应用于构建自然语言处理系统，包括对话代理，经过优化的卷积神经网络架构可显著缩短学习时间，减少参数数量，提高自编码准确率，并通过 SentEval 基准套件评估所建模型所创建的表示，并表明这可以作为流行的词袋表示形式的更好的但资源要求较低的选择。

    Aug, 2018

  • CNN+CNN：用于图像字幕生成的卷积解码器

    本文在图像字幕生成方面，提出了一种仅利用卷积神经网络生成字幕的框架，通过并行计算，训练速度比基于 LSTM 的模型快 3 倍，同时在 MSCOCO 图像字幕数据集上获得了比 LSTM 更高的评估得分。

    May, 2018

  • 长期循环卷积网络用于视觉识别和描述

    研究比较深度卷积网络和带有循环结构的深度卷积神经网络的效果，针对视频识别、图像描述、检索以及视频叙事方面的问题，开发出一种新颖的循环卷积架构，该架构可以训练端到端，可以同时学习时间动态和卷积感知表示，并具有学习长期依赖性的能力。实验结果证明，循环卷积模型在识别或生成方面与现有的模型相比具有明显的优势。

    Nov, 2014

  • 卷积序列到序列学习

    利用卷积神经网络架构完全替代了循环神经网络的流行序列到序列学习方法，运用门控线性单元简化了梯度传播，为每个解码器层装备了单独的注意力模块，在 GPU 和 CPU 上取得了比 Wu 等人（2016）更高的准确性和十倍以上的速度。

    May, 2017

  • 使用 RNN 编码器 - 解码器学习短语表示，用于统计机器翻译

    本文提出了一种名为 RNN Encoder-Decoder 的神经网络模型，该模型由两个循环神经网络（RNN）组成，它将符号序列编码成固定长度的向量表示，并将该表示解码成另一个符号序列，并通过联合训练编码器和解码器来优化目标序列的条件概率，然后将该模型生成的条件概率应用于现有的对数线性模型中，从而提高统计机器翻译系统的性能，并且该模型能够学习到一种语义和句法上有意义的语言短语表示。

    Jun, 2014

  • 评估序列到序列模型在手写文本识别中的应用

    该研究提出了一种基于注意力机制的序列到序列模型用于手写体识别，其中结合了卷积神经网络进行视觉信息的提取，实验结果表明其相比于最近的序列到序列方法取得了显著提升。

    Mar, 2019

  • 基于循环和卷积神经网络的连续短文本分类

    本文介绍了一种基于递归神经网络和卷积神经网络的模型，可以在分类下一个短文本时利用前面的短文本，该模型在三个不同的数据集上取得了最先进的对话行为预测结果。

    Mar, 2016