Dec, 2023

SECNN：用于句子分类的挤压和激活卷积神经网络

PDF
TL;DR我们的研究工作提出了一种用于句子分类的 Squeeze-and-Excitation 卷积神经网络（SECNN），该网络利用多个 CNN 的特征图作为句子表示的不同通道，并结合通道注意机制（SE attention mechanism）学习不同通道特征的注意权重，实现了在句子分类任务上先进的性能。
sentence classificationconvolutional neural networkattention mechanismsqueeze-and-excitation convolutional neural networkchannel attention mechanism
发现论文，激发创造
  • 压缩与激励网络

    本研究提出了一种新的神经网络单元 SE 块来自适应地重新校准通道特征响应，进一步提高 CNN 架构的性能，并在 ILSVRC 2017 分类中取得了一流的成绩。

    Sep, 2017

  • 全卷积网络中的并发空间和通道压缩与激励

    本文提出使用 Squeeze & Excitation 模块，分别从空间和通道两个角度分为三个变体，提高卷积神经网络的特征表示能力，在脑部和器官分割上取得了良好的效果。

    Mar, 2018

  • Squeeze and Excitation 网络的变体

    本文提出了 SE 模块的变体，通过改进挤压和兴奋的过程，实现了平滑的层权重过渡和强化性能，在残差网络上进行实验的结果表明，这些变体保留了 SE 模块的特性。

    Apr, 2023

  • SENetV2：用于通道和全局表示的聚合稠密层

    本文介绍了一种通过与密集层结合的聚合多层感知机，用于改进现有体系结构，提高高级特征表示能力的方法。通过对基于图像分类的现有体系结构进行实验比较，结果表明该方法显著提高了分类准确度。

    Nov, 2023

  • SLCNN：用于文本分类的句子级卷积神经网络

    本文研究了使用卷积神经网络的文本分类的新基准模型，在这些模型中，将文档作为三维张量表示进行输入，从而实现了句子级分析，经实验证明该模型在长文档特别表现良好。

    Jan, 2023

  • TextConvoNet: 基于卷积神经网络的文本分类体系结构

    本文提出了一种名为 TextConvoNet 的基于卷积神经网络的体系结构，不仅可以提取句内 n-gram 特征，还可以捕获输入文本中的句间 n-gram 特征，进而优于现有的文本分类用的机器学习和深度学习模型。

    Mar, 2022

  • 建模句子的卷积神经网络

    本文介绍了一种称为动态卷积神经网络的卷积架构，它使用动态 k-Max 池化进行句子的语义建模，并通过四项实验（二进制和多类情感预测，六路问题分类和推特情感预测）展示了出色的表现。

    Apr, 2014

  • 利用空间和通道 “压缩与激励” 块重新校准全卷积网络

    本文介绍了一种基于 “挤压与激励” 模块的语义分割模型架构，通过简单计算模块提高模型分割精度，模块只带来了 1.5% 的模型复杂度增加。

    Aug, 2018

  • 集合压缩激励网络

    本研究提出了一种称为 SaEnet 的方法，该方法利用多层感知机和聚合激活网络构建卷积神经网络的全局通道表示，通过在层之间诱导全局表示，并在网络中引入多分支线性层，从而增强网络的表征能力。通过使用 Imagenet 和 CIFAR100 数据集进行大量实验证明，该模型的性能与现有最先进的架构相当甚至更好。

    Aug, 2023

  • 专注卷积：为 CNN 配备类 RNN 的注意机制

    提出了一种名为 ATTCONV 的基于关注机制的卷积神经网络，该网络凭借从非线性上下文中提取的信息和集成到卷积操作中的关注机制，在句子级表示学习方面具有有效性。

    Oct, 2017