Squeeze and Excitation 网络的变体

Apr, 2023

Variations of Squeeze and Excitation networks

Mahendran

TL;DR本文提出了 SE 模块的变体，通过改进挤压和兴奋的过程，实现了平滑的层权重过渡和强化性能，在残差网络上进行实验的结果表明，这些变体保留了 SE 模块的特性。

Abstract

convolutional neural networks learns spatial features and are heavily interlinked within kernels. The se module have broken the traditional route of neural networks passing the entire result to next layer. Instea

convolutional neural networks se module squeeze and excitation performance residual networks

发现论文，激发创造

压缩与激励网络

本研究提出了一种新的神经网络单元 SE 块来自适应地重新校准通道特征响应，进一步提高 CNN 架构的性能，并在 ILSVRC 2017 分类中取得了一流的成绩。

Sep, 2017

全卷积网络中的并发空间和通道压缩与激励

本文提出使用 Squeeze & Excitation 模块，分别从空间和通道两个角度分为三个变体，提高卷积神经网络的特征表示能力，在脑部和器官分割上取得了良好的效果。

Mar, 2018

集合压缩激励网络

本研究提出了一种称为 SaEnet 的方法，该方法利用多层感知机和聚合激活网络构建卷积神经网络的全局通道表示，通过在层之间诱导全局表示，并在网络中引入多分支线性层，从而增强网络的表征能力。通过使用 Imagenet 和 CIFAR100 数据集进行大量实验证明，该模型的性能与现有最先进的架构相当甚至更好。

Aug, 2023

利用空间和通道 “压缩与激励” 块重新校准全卷积网络

本文介绍了一种基于 “挤压与激励” 模块的语义分割模型架构，通过简单计算模块提高模型分割精度，模块只带来了 1.5% 的模型复杂度增加。

Aug, 2018

SENetV2：用于通道和全局表示的聚合稠密层

本文介绍了一种通过与密集层结合的聚合多层感知机，用于改进现有体系结构，提高高级特征表示能力的方法。通过对基于图像分类的现有体系结构进行实验比较，结果表明该方法显著提高了分类准确度。

Nov, 2023

SECNN：用于句子分类的挤压和激活卷积神经网络

我们的研究工作提出了一种用于句子分类的 Squeeze-and-Excitation 卷积神经网络（SECNN），该网络利用多个 CNN 的特征图作为句子表示的不同通道，并结合通道注意机制（SE attention mechanism）学习不同通道特征的注意权重，实现了在句子分类任务上先进的性能。

Dec, 2023

使用 Project & Excite 重新校准 3D ConvNets

本文介绍了一个新颖的通用操作流程来在 3D 卷积神经网络中扩展现有的 2D 重新校准方法，并提出了专为 3D 网络定制的 Project & Excite（PE）模块，使其能更好地保留空间信息并实现对医学图像的分割性能提升。

Feb, 2020

融合 SE 与注意力机制的 UNet 在颅内肿瘤分割中的应用

本文提出了一种新的体系结构 ——SEEA-UNet，它结合了 Attention UNet 和 Squeeze Excitation Network 以获取空间和通道级别的信息，并使用二元焦点损失和 Jaccard 系数监控模型性能。与现有体系结构相比，该模型在少量时期的训练中表现更好。

May, 2023

用于视觉识别的门控通道变换

本文提出了一种适用于卷积神经网络在视觉识别中的通用变换单元，它能明确建模可解释的控制变量，以确定神经元行为与卷积权重联合优化以提高识别精度，并使用通道标准化层来减少参数数量和计算复杂度。实验表明该单元在多项视觉任务上具有明显优势。

Sep, 2019

准确性增强器：使用特征图重新校准提升性能

通过引入低复杂度的 CNN 架构模块，我们的方法在提高模型表现方面相较于已有方法性能更好，尤其是在 ResNet-50 分类方面，其表现与 ResNet-152 相当，且具有良好的泛化性能。

Mar, 2019