Mar, 2017

循环神经网络生成与判别文本分类

PDF
TL;DR本文对识别分类文本的判别式和生成式 LSTM 模型的性能进行了实证研究，证明生成式模型对单词之间的条件依赖意识更强，但其渐进错误率高于判别式训练的 RNN 模型。我们发现生成式模型的方法可以更快地接近其渐进错误率，而且能更好地适应数据分布的变化，这一假设在零样本和连续学习设置的实验中得到了证实，并表明生成式模型优于判别式模型。
lstm modelstext classificationgenerative modelsasymptotic error ratesdata distribution
发现论文，激发创造
  • 学习使用协同判别器进行写作

    通过学习多个判别模型的混合，帮助生成自然语言的循环神经网络更好地表达与 Grice 最大化原则这样的语言规律相关的交际目标，从而提高生成文本的连贯性、风格和信息质量。

    May, 2018

  • 用于数据高效文本分类的潜变量生成模型

    通过向生成式文本分类器引入离散潜变量，并探究几种图模型配置，我们提高了它的性能，尤其在小数据集下，同时分析了模型的可解释性。

    Oct, 2019

  • 一种用于文本分类的 C-LSTM 神经网络

    本文提出 C-LSTM 模型，结合了 CNN 和 RNN 的优点，用于句子表示和文本分类，实验结果表明 C-LSTM 比 CNN 和 LSTM 表现更好，可在这些任务中取得出色的性能。

    Nov, 2015

  • 基于循环神经网络的关系分类

    本文提出了一种基于循环神经网络的简单框架，并将其与基于卷积神经网络的模型进行比较。该模型在处理句子关系分类问题时具有学习长距离依赖关系模式的优点，并在使用 MIMLRE 数据集的实验中表现出优异的性能。

    Aug, 2015

  • 循环神经网络在序列学习中的关键评估

    本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

    May, 2015

  • 判别式声学词嵌入：循环神经网络方法

    本研究基于递归神经网络 (RNN) 提出了新的区分性嵌入模型，探讨了不同的训练损失，通过单词区分任务的评估发现，相比以往的模型，分类器和 Siamese RNNs 都有所改进，其中 Siamese RNNs 的表现更为优异，同时也对嵌入模型和网络结构等变量进行了分析。

    Nov, 2016

  • 文本分类任务的深度序列模型

    本文研究大数据领域，探讨了自然语言处理、文本分类和序列模型的应用，结果显示序列模型在二分类和多分类上取得了优异的成果，但机器仍需进一步改进以达到人类水平。

    Jul, 2022

  • 可视化和理解循环网络

    使用字符级语言模型作为可解释的测试平台，本研究分析了 LSTM 的表示、预测和错误类型，并揭示了其提高性能的长程结构依赖性的来源。

    Jun, 2015

  • 深度循环神经网络语音识别

    本文研究了将深度网络的多层表示与强大的 RNN 模型相结合的模型 - 深度递归神经网络，通过合适的正则化和端到端的训练方法，该模型在 TIMIT 语音识别基准测试中获得了最佳记录得分 17.7％。

    Mar, 2013

  • 快速准确的循环神经网络语音识别声学模型

    该论文介绍利用深度 LSTM 循环神经网络、CD 电话建模、帧叠加与减少帧率等技术来提高语音识别准确率的研究，并探讨了直接输出单词的 LSTM RNN 模型的初步结果。

    Jul, 2015