Oct, 2020

旋转关注：卷积三元组注意力模块

PDF
TL;DR本文提出了一个计算注意力加权值的新方法－三元注意力，通过旋转操作建立了跨维度交互关系以及通过残差变换编码跨通道和空间信息，能够轻量级且高效地嵌入到经典的后骨干网络中。实验结果表明，我们的方法在图像分类以及物体检测等方面比其他注意力机制更加有效。
attention mechanismstriplet attentioncross-dimension interactioncomputer visionimage classification
发现论文，激发创造
  • 时空预测学习的三元注意力变换器

    基于历史序列预测未来序列的时空预测学习提供了一种自监督学习范式，主流方法利用循环单元进行建模，但循环单元的并行性不足，常常在现实场景中表现欠佳。为了在保持计算效率的同时提高预测质量，我们提出了一种创新的三元注意力变换器，在设计上捕捉了帧间动态与帧内静态特征。通过将 Triplet Attention Module (TAM) 整合到模型中，我们取代了传统的循环单元，并对时空和通道维度中的自注意力机制进行了深入探索。在这种配置下：(i) 时序标记包含了帧间的抽象表示，有助于捕捉固有的时序依赖性；(ii) 空间和通道的注意力结合，通过在空间和通道维度上进行细粒度交互来改进帧内表示。交替运用时序、空间和通道级别的注意力使得我们的方法能够学习更复杂的短程和长程时空依赖关系。广泛的实验表明，我们的方法在移动物体轨迹预测、交通流预测、驾驶场景预测和人体动作捕捉等多种场景下性能超过了现有的基于循环和非循环方法，达到了最先进水平。

    Oct, 2023

  • Twins: 重访视觉 Transformer 中空间注意力设计

    本文针对密集预测任务，重新设计了空间注意力机制，提出了 Twins-PCPVT 和 Twins-SVT 两种高效且易于实现的视觉转换器架构，并在图像分类、密集检测及分割等视觉任务上取得了出色的性能表现。

    Apr, 2021

  • 针对视觉识别的上下文转换网络

    该论文提出了一种新颖的 Transformer 风格模块，即 Contextual Transformer (CoT) 块，它完全利用输入键之间的情境信息来指导动态注意力矩阵的学习，从而增强了视觉表示能力，可作为更强大的骨干网。

    Jul, 2021

  • 高效注意力：线性复杂度的注意力

    本文提出了一种新的有效注意机制，其在计算代价和内存使用方面远优于点积注意力，这种资源效率使得它能够更广泛和灵活地集成到网络中，提高了观察精度，可以用于物体检测、实例分割和立体深度估计等领域。

    Dec, 2018

  • $A^2$-Nets：双重注意力网络

    本文提出了一种双重注意力块 (double attention block) 的方法，其聚合和传播了来自输入图像 / 视频的整个时空空间的全局特征，从而使下一层卷积层高效地访问整个空间中的特征；将此块应用于当前卷积神经网络，可以显著提高图像 / 视频的识别性能，在 ImageNet-1k 数据集上，ResNet-50 与双重注意力块的表现优于参数数量多得多的 ResNet-152, 在动作识别任务中，该模型在 Kinetics 和 UCF-101 数据集上取得了最先进的成果。

    Oct, 2018

  • Tri-Attention：自然语言处理中的显式上下文感知注意机制

    该研究提出了一种新的三元注意力机制来更好地捕捉自然语言处理中的上下文信息并在三个 NLP 任务中实现了比 30 种非注意、标准 Bi-Attention、上下文 Bi-Attention 方法和预训练神经语言模型更好的效果。

    Nov, 2022

  • 注意力增强卷积网络

    本文针对使用卷积操作在视觉任务中只关注局部局部信息、缺乏全局信息的不足，提出运用自注意力机制对视觉任务进行处理的方法；通过在图像分类和目标检测任务中实现卷积和自注意力的融合，可有效提高模型精度。

    Apr, 2019

  • LILE: 使用 Transformer 的双重注意力网络进行组织病理学资料检索前深入查看

    提出了一种使用自注意力作为额外损失项的新架构，以在联合潜在空间中表示图像和文本；在 MS-COCO 和 ARCH 两个基准数据集上进行的实验结果表明，该方法具有很好的效果。

    Mar, 2022

  • MaxViT：多轴视觉变压器

    该研究通过引入多轴关注模型和卷积等新元素，提出了一种高效且可扩展的注意力模型，即 MaxViT。利用 MaxViT 作为骨干网络，在图像分类和物体检测等任务上都取得了领先的性能。同时，该模型还证明了其在图像生成方面的潜在优势。

    Apr, 2022

  • 关注激活：用于细粒度图像识别的模块化注意机制

    本文提出利用注意力机制在卷积特征激活层面上进行细粒度图像识别，相对于传统方法，在不需要部分标注的情况下使用低层次特征进行输出概率分配，并在 CIFAR-10、Adience gender recognition task、Stanford Dogs 和 UEC-Food100 等数据集上取得了最先进的分类精度。

    Jul, 2019