Jul, 2017

卷积网络在文本分类中是否需要深度？

PDF
TL;DR本文研究了卷积模型的深度对于文本分类的重要性，发现使用字符时深度网络比浅层网络效果更好，但使用词语输入时，一个简单的浅而宽的网络优于 DenseNet 等深度模型。我们的浅层词语模型在 Yelp Binary（95.9％）和 Yelp Full（64.9％）两个数据集上进一步建立了新的最佳性能。
发现论文，激发创造
  • 用于文本分类的深层卷积神经网络

    本文介绍了一种新的基于 VDCNN 的文本处理体系结构，通过使用 29 个卷积层，仅使用小型卷积和池化操作，该模型的性能得到了提高，并且在多个公共文本分类任务上，相对于现有模型，且在文本处理中使用非常深的卷积神经网络实现了最先进水平。

    Jun, 2016

  • 基于字符级卷积神经网络的文本分类

    本文通过构建大规模数据集，比较了基于字级别的卷积神经网络与传统模型如词袋、n-gram 及基于词的卷积神经网络和循环神经网络在文本分类方面的表现。结果表明，基于字级别的卷积神经网络能够达到当前领域最佳或竞争性的结果。

    Sep, 2015

  • 从零开始的文本理解

    文章说明了我们可以应用深度学习来理解文本，从字符级到抽象文本概念，使用时间卷积网络 (ConvNets)。我们将 ConvNets 应用于各种大规模数据集，包括本体分类，情感分析和文本分类。我们展示了时间 ConvNets 可以在不需要任何人类语言的词语，短语，句子或任何其他句法或语义结构的知识下实现惊人的性能。证据表明，我们的模型可以用于英文和中文。

    Feb, 2015

  • 深度卷积网络是否真的需要深度和卷积？

    本文证明了训练高准确度的小型模型需要多层卷积神经网络，即使使用了蒸馏等训练方法。在 CIFAR-10 数据集上，只有包含多层卷积的模型才能够拥有和深度卷积神经网络相当的准确度。

    Mar, 2016

  • 深度网络是否真的需要很深？

    该研究表明，浅层前馈神经网络可以学习先前由深层网络学习的复杂函数，并且可以达到仅用深度模型可以实现的准确度，在 TIMIT 语音识别任务中，没有经过复杂设计的浅层神经网络能够表现类似于深度卷积网络，并且成功地训练浅层神经网络模仿更深层次模型的方法表明，可能存在比当前更好的训练浅层前馈网络的算法。

    Dec, 2013

  • SLCNN：用于文本分类的句子级卷积神经网络

    本文研究了使用卷积神经网络的文本分类的新基准模型，在这些模型中，将文档作为三维张量表示进行输入，从而实现了句子级分析，经实验证明该模型在长文档特别表现良好。

    Jan, 2023

  • 文本分类综述：从浅层到深度学习

    本论文综述了自 1961 年至 2021 年期间文本分类领域的研究成果，包括传统方法和深度学习方法，提出了特征提取和分类技术的分类法，并对各个分类进行了详细的介绍，同时比较了不同方法之间的优缺点和各种评价指标，对未来的研究方向和面临的挑战进行了概述。

    Aug, 2020

  • TextConvoNet: 基于卷积神经网络的文本分类体系结构

    本文提出了一种名为 TextConvoNet 的基于卷积神经网络的体系结构，不仅可以提取句内 n-gram 特征，还可以捕获输入文本中的句间 n-gram 特征，进而优于现有的文本分类用的机器学习和深度学习模型。

    Mar, 2022

  • 基于深度学习的文本分类：综述

    本研究综合评述了 150 多种基于深度学习的文本分类模型，包括情感分析，新闻分类，问答和自然语言推理，并讨论了它们的技术贡献、相似性和优势，同时提供了 40 多个流行数据集的概述。最后，我们对不同深度学习模型在流行基准测试上的性能进行了定量分析，并讨论了未来的研究方向。

    Apr, 2020

  • 卷积神经网络在医学文本分类中的应用

    研究应用深度卷积神经网络自动对临床文本进行分类，并证明该方法在自然语言处理任务中比多种广泛应用的方法提高约 15% 的准确性。

    Apr, 2017