Sep, 2020

注意力特征融合

PDF
TL;DR本文提出了一种统一且普遍的方案，即关注特征融合，它适用于大多数常见场景，包括通过短跳线和长跳线引起的特征融合以及在 Inception 层内部的特征融合。通过多尺度通道关注模块来更好地融合不一致的语义和尺度的特征，并通过迭代关注特征融合来缓解特征地图的初始集成成为瓶颈的问题，我们的模型在 CIFAR-100 和 ImageNet 数据集上均优于最先进的网络，并表明特征融合的更复杂的关注机制具有持续提供比直接特征融合更好地结果的巨大潜力。
feature fusionattentional feature fusionmulti-scale channel attention moduleiterative attentional feature fusionstate-of-the-art networks
发现论文，激发创造
  • 关注尺度：尺度感知的语义图像分割

    本论文研究了怎样在卷积神经网络中实现多尺度特征表示，提出了一种注重对每个像素位置进行加权的注意力机制。通过对三个大型数据集的广泛实验，证明了该方法的有效性。

    Nov, 2015

  • ICAFusion: 迭代交叉注意力引导特征融合用于多光谱目标检测

    利用双交叉注意力变换器提出了一种新的特征融合框架，以同时建模全局特征交互并捕捉多模态之间的互补信息，从而提高物体特征的区分能力，并通过迭代交互机制在减少模型复杂性和计算成本的同时保证了较快的推理速度。

    Aug, 2023

  • 使用不对称多层融合学习深层次多模态特征表示

    本文介绍了一种有效的多模态特征融合框架，其中采用了两种创新的融合方案，可在一个共享的单一网络中学习多模态特征，并引入两个非对称融合操作，以增强跨通道的多模态特征交互并增强通道内的空间特征区分能力。实验结果表明，本文提出的框架在语义分割和图像翻译任务中表现优异。

    Aug, 2021

  • 多尺度细化的注意力语义分割

    本文提出了一种新颖的注视模型用于语义分割，该模型聚合了多尺度和上下文特征进行预测。该模型使用骨骼卷积神经网络框架输入多个不同的尺度，进而可以获取不同尺度的表示。提出的注视模型将分别处理不同尺度的特征并集成它们。然后，该模型的位置注视分支学习到每个像素位置上的多尺度特征的软加权。此外，我们添加了一个重新校准分支，与位置注视分支平行，用于重新校准每个类别的分数图。在 PASCAL VOC 2012 和 ADE20K 数据集上，我们取得了相当有竞争力的结果，超过了基线和相关工作。

    Jul, 2018

  • 利用多通道注意力子网络解释特征空间

    本文提出了一种基于多通道注意力机制的卷积神经网络结构，可以为每个特征生成不同的注意力掩蔽，并应用于多属性识别任务中，其实验结果表明该方法不仅高度透明可解释，而且准确把握数据的属性。

    Apr, 2019

  • 在线交互式知识蒸馏的特征融合

    本研究提出了一种基于特征融合的学习框架，并通过在线知识蒸馏的方式，让不同子网络分类器之间相互教学，提高融合分类器和每个子网络的性能，多项数据集实验证明了该方法在预测准确性方面的有效性。

    Apr, 2019

  • 学会关注

    通过加入可训练的注意力模块，使得卷积神经网络在进行图像分类时能够更好地聚焦于感兴趣的区域，进一步提高了模型的稳健性。

    Apr, 2018

  • 关注激活：用于细粒度图像识别的模块化注意机制

    本文提出利用注意力机制在卷积特征激活层面上进行细粒度图像识别，相对于传统方法，在不需要部分标注的情况下使用低层次特征进行输出概率分配，并在 CIFAR-10、Adience gender recognition task、Stanford Dogs 和 UEC-Food100 等数据集上取得了最先进的分类精度。

    Jul, 2019

  • F3Net: 融合、反馈和聚焦用于显著目标检测

    本文提出 F3Net 算法，通过交叉特征模块和级联反馈解码器，结合像素位置感知损失函数，实现高效的显著目标检测，能够在各项指标上优于现有算法。

    Nov, 2019

  • 注意力神经网络：使用认知反馈进行特征选择

    提出了一种新的基于自上而下的认知偏见和自下而上的特征提取相结合的注意力神经网络框架，能够在处理高噪声或难以分割的问题时取得预期，模块化和可扩展，并能够适应复杂行为模式，在 MNIST 变分数据集上获得了与现有技术相当或更好的分类准确性和成功地分离重叠数字。

    Nov, 2014