Dec, 2021

BA-Net：用于深度卷积神经网络的桥接注意力

PDF
TL;DR本文提出了 Bridge Attention Net (BA-Net) 这一简单的策略，通过跳跃连接将前面的卷积层的输出连接起来以提高通道注意力机制的性能，并在实验中展示其比现有方法在精度和速度方面均取得了最先进的性能，这表明 Bridge Attention Net 在神经网络架构设计中具有巨大潜力。
channel attention mechanismdeep convolutional neural networksbridge attention netskip connectionsneural network architectures
发现论文，激发创造
  • 瓶颈关注模块

    本篇论文提出了一种名为 Bottleneck Attention Module（BAM）的简单有效的注意力机制，可嵌入任何前馈卷积神经网络中，并在 CIFAR-100、ImageNet-1K、VOC 2007 和 MS COCO 等基准测试中通过广泛实验验证了其在图像分类和检测性能上的一致提高。

    Jul, 2018

  • 注意力分支网络：视觉解释的注意机制学习

    本文提出了 Attention Branch Network（ABN）用于图像识别，它通过引入注意机制来表示图像的重要区域，并以分支结构扩展自顶向下的视觉解释模型，实现端到端的训练，同时提供了可视化的图像解释和获得比基准模型更高的精度。

    Dec, 2018

  • BBA-net: 一种用于人群计数的双分支注意力网络

    我们提出了一种基于 CNN 的 Bi-Branch Attention 网络用于群众计数。该方法包括两个分支结构，采用注意力机制进行特征提取，并通过几何适应和 Voronoi 划分相结合的密度图生成方法来增强特征表达能力，从而提高了预测准确性。

    Jan, 2022

  • $A^2$-Nets：双重注意力网络

    本文提出了一种双重注意力块 (double attention block) 的方法，其聚合和传播了来自输入图像 / 视频的整个时空空间的全局特征，从而使下一层卷积层高效地访问整个空间中的特征；将此块应用于当前卷积神经网络，可以显著提高图像 / 视频的识别性能，在 ImageNet-1k 数据集上，ResNet-50 与双重注意力块的表现优于参数数量多得多的 ResNet-152, 在动作识别任务中，该模型在 Kinetics 和 UCF-101 数据集上取得了最先进的成果。

    Oct, 2018

  • 卷积神经网络中的基于特征的注意力

    该论文介绍了将基于特征的注意力 (feature-based attention) 应用于卷积神经网络的简单方法，并与多种实现选项进行比较，实现了在处理具有噪声或混杂情况下的图像对象检测任务时的性能提升，并验证了生物学特征相似性增益模型在提高性能上的有效性。

    Nov, 2015

  • WaveNets：小波通道注意力网络

    本文介绍了一种在计算机视觉中使用的名为 WaveNet 的基于小波变换的通道注意力机制，可有效提高特征保留能力和图像分类性能。

    Nov, 2022

  • BANet: 模糊感知的动态场景去模糊的注意力网络

    Blur-aware Attention Network (BANet) 通过使用区域自注意力和多核带池来分离不同大小和方向的模糊模式，以及级联并行膨胀卷积来聚合多尺度内容特征，提供了单次前向传递的精确和高效的去模糊，实验证明与当前技术相比，在模糊图像恢复方面表现良好，并且可以实时提供去模糊结果。

    Jan, 2021

  • 单目深度估计的双向注意力网络

    本文提出一种双向注意力网络（BANet）用于单目深度估计，通过利用神经机器翻译的概念基础和引入双向注意力模块，该方法能够高效地将局部和全局信息相融合，并在 KITTI 和 DIODE 数据集上显著优于传统的前馈模型以及其他现有的单目深度估计方法。

    Sep, 2020

  • ECA-Net：深度卷积神经网络的高效通道注意力

    本文提出一种高效通道注意力 (ECA) 模块，该模块仅涉及少量参数，可以显著提高性能并降低模型复杂度，通过在 ResNet50 的骨干网上进行了广泛的实验验证，在图像分类，目标检测和实例分割方面均表现出良好的效果。

    Oct, 2019

  • SCA-CNN：用于图像字幕的卷积网络中的空间和通道注意力

    本文介绍了一种新的卷积神经网络 SCA-CNN，其中引入了空间和通道注意力，用于图像描述任务，结果表明 SCA-CNN 明显优于现有的基于视觉关注的图像描述方法。

    Nov, 2016