本研究提出了一种称为 SaEnet 的方法,该方法利用多层感知机和聚合激活网络构建卷积神经网络的全局通道表示,通过在层之间诱导全局表示,并在网络中引入多分支线性层,从而增强网络的表征能力。通过使用 Imagenet 和 CIFAR100 数据集进行大量实验证明,该模型的性能与现有最先进的架构相当甚至更好。
Aug, 2023
本研究提出了一种新的神经网络单元 SE 块来自适应地重新校准通道特征响应,进一步提高 CNN 架构的性能,并在 ILSVRC 2017 分类中取得了一流的成绩。
Sep, 2017
本文提出了 SE 模块的变体,通过改进挤压和兴奋的过程,实现了平滑的层权重过渡和强化性能,在残差网络上进行实验的结果表明,这些变体保留了 SE 模块的特性。
Apr, 2023
本文提出使用 Squeeze & Excitation 模块,分别从空间和通道两个角度分为三个变体,提高卷积神经网络的特征表示能力,在脑部和器官分割上取得了良好的效果。
Mar, 2018
我们的研究工作提出了一种用于句子分类的 Squeeze-and-Excitation 卷积神经网络(SECNN),该网络利用多个 CNN 的特征图作为句子表示的不同通道,并结合通道注意机制(SE attention mechanism)学习不同通道特征的注意权重,实现了在句子分类任务上先进的性能。
Dec, 2023
本文介绍了一种基于 “挤压与激励” 模块的语义分割模型架构,通过简单计算模块提高模型分割精度,模块只带来了 1.5% 的模型复杂度增加。
Aug, 2018
通过引入低复杂度的 CNN 架构模块,我们的方法在提高模型表现方面相较于已有方法性能更好,尤其是在 ResNet-50 分类方面,其表现与 ResNet-152 相当,且具有良好的泛化性能。
Mar, 2019
本文提出了一种新的体系结构 ——SEEA-UNet,它结合了 Attention UNet 和 Squeeze Excitation Network 以获取空间和通道级别的信息,并使用二元焦点损失和 Jaccard 系数监控模型性能。与现有体系结构相比,该模型在少量时期的训练中表现更好。
May, 2023
本文提出了一种针对卷积神经网络中上下文利用的简单、轻量级方法,引入了一对操作符:gather 和 excite,可直接在现有的体系结构中集成,通过实验发现,gather-excite 方法可以在成本的一小部分内实现与增加 CNN 深度相当的性能提升。
Oct, 2018
本文提出了一种适用于卷积神经网络在视觉识别中的通用变换单元,它能明确建模可解释的控制变量,以确定神经元行为与卷积权重联合优化以提高识别精度,并使用通道标准化层来减少参数数量和计算复杂度。实验表明该单元在多项视觉任务上具有明显优势。
Sep, 2019