May, 2024

CSA-Net：通道级空间自相关注意力网络

PDF
TL;DR该研究介绍了一种新颖的基于地理空间分析的通道相关的注意力机制，其能够在卷积神经网络中利用特征图之间的空间关系来产生有效的通道描述符，并验证了其在图像分类、目标检测和实例分割等多个任务和数据集上相对于其他先进的基于注意力的卷积神经网络的竞争性性能和优越性。
convolutional neural networkschannel-wise feature refining mechanismsspatial relationshipsgeographical spatial analysisattention-based cnns
发现论文，激发创造
  • SCA-CNN：用于图像字幕的卷积网络中的空间和通道注意力

    本文介绍了一种新的卷积神经网络 SCA-CNN，其中引入了空间和通道注意力，用于图像描述任务，结果表明 SCA-CNN 明显优于现有的基于视觉关注的图像描述方法。

    Nov, 2016

  • 全注意力网络用于语义分割

    该研究提出了 FLANet 方法，可以通过单个相似度图来同时编码空间和通道注意力，并在三个具有挑战性的语义分割数据集上最先进的性能达到 83.6％，46.99％和 88.5％。

    Dec, 2021

  • SSAN: 可分离自注意力网络用于视频表示学习

    该论文提出了一种分离的自注意力模块 (SSA)，通过分别建模空间和时间相关性，有效地将空间上下文信息用于时间建模，将该模块添加到 2D CNN 中形成 SSAN，用于视频表示学习，在 Something-Something 和 Kinetics-400 数据集上超过了现有最先进方法，在 MSR-VTT 和 Youcook2 数据集上得到了显著的性能提升。

    May, 2021

  • 遥感图像超分辨率的高级特征提取模块

    提出了一种名为 Channel and Spatial Attention Feature Extraction (CSA-FE) 的高级特征提取模块，通过使用通道和空间注意力结合标准视觉变换器 (ViT)，有效提取特征；在 UCMerced 数据集上进行了训练，实验证明我们的方法可以使模型专注于包含高频信息的特定通道和空间位置，从而提高超分辨率图像的质量，并且相较于现有模型，我们的模型表现出更优秀的性能。

    May, 2024

  • 基于通道先验卷积注意力的医学图像分割

    本文提出了一种高效的 Channel Prior Convolutional Attention (CPCA) 方法以及基于 CPCA 的医学图像分割网络 CPCANet，通过在通道和空间维度上支持动态分配注意力权重并保持通道优先以及采用多尺度深度可分离卷积模块，能够有效地提取空间关系，专注于有信息量的通道和重要区域。在两个公开数据集上验证 CPCANet，相对于其他最先进的算法实现了更好的分割性能并需要更少的计算资源。代码公开在 https://github.com/Cuthbert-Huang/CPCANet。

    Jun, 2023

  • SCAR：面向人群计数的空间 / 通道注意力回归网络

    本文提出了一种名为 “SCAR” 的空间 / 通道注意力模型，将传统的回归 CNN 用于估计密度图，以解决只关注局部外观特征的问题，模型在四个数据集上取得了最新的成果。

    Aug, 2019

  • FcaNet: 频率通道注意力网络

    该论文提出了在频域进行特征分解以解决通道表示问题的方法，使用多光谱通道注意力机制来实现通道压缩，并在图像分类、物体检测和实例分割任务上取得了优异的效果。

    Dec, 2020

  • SA-Net: 深度卷积神经网络的 Shuffle Attention

    该论文提出了一种名为 Shuffle Attention（SA）的机制，通过使用 Shuffle Unit 来同时描述空间和通道维度中的特征依赖关系，以有效地结合两种注意力机制。实验结果表明，该机制比当前 SOTA 方法具有更高的准确性，同时具有更低的模型复杂度。

    Jan, 2021

  • 基于分类语义注意力的动作检测

    该研究提出了一种基于类语义的关注机制，用于提高行为检测模型的性能，并在两个流行的行为检测任务数据集上展示了明显的性能提升，同时对于一些自注意力模块（如收缩激活）的性能提升具有补充作用。

    Sep, 2021

  • 用于人员识别的交叉关注网络

    本文提出了一种名为 CCA 的注意力模块，旨在通过最大化不同注意区域之间的信息增益来克服以前的限制，并提出了一种新的深层网络，利用不同的注意力机制学习人物图像的强鲁棒性和判别表现，得到的模型被称为 CCAN，大量实验证明 CCAN 在人物重新识别任务上优于当前状态下的最先进算法。

    Jun, 2020