Sep, 2022

SegNeXt: 语义分割中重思卷积特征设计

PDF
TL;DRSegNeXt 是一种简单的卷积神经网络架构，通过重新审视先前成功的分割模型所拥有的特性，设计了一种基于卷积注意力机制的网络模型，该模型使用了廉价的卷积操作，有效提高了语义分割模型的性能，超越了现有技术最佳方法。
semantic segmentationconvolutional attentionperformance improvementsegnextefficientnet
发现论文，激发创造
  • 语义分割的压缩注意力网络

    本文提出了一种新颖的挤压和注意力（SA）模块，结合传统卷积实现像素组关注和像素级预测，最终通过融合四个层次的 SANet 的输出来集成多尺度的上下文信息，从而实现了在 PASCAL VOC 和 PASCAL 上的语义分割任务中表现出色。

    Sep, 2019

  • 从序列到序列的角度重新思考使用 Transformers 进行语义分割

    本文提出了一种新的语义分割方法，使用纯 Transformer 编码图像为序列的方式，通过全局上下文模型和一个简单的解码器生成强大的分割模型，称为 SETR，取得多项最新的测试结果。

    Dec, 2020

  • TransNeXt：用于视觉 Transformer 的强大视觉感知

    通过仿生设计的令牌混合器，模拟生物视觉和持续眼动，提出聚合注意力机制（Aggregated Attention），使特征图上的每个令牌具有全局感知能力。同时，结合学习性令牌、卷积 GLU 机制，构建新的视觉主干网络 TransNeXt，实验结果表明其在多个模型尺寸上实现了最先进的性能。

    Nov, 2023

  • 基于混合卷积 - 变换器架构搜索的实时图像分割

    通过使用多头自注意力结构，结合架构搜索方法，本研究提出了一种高效且有效的高分辨率图像分割神经网络架构，名为 HyCTAS，通过在多个分辨率的分支之间融合轻量级卷积层和内存高效的自注意力层，提高了语义分割任务的性能。

    Mar, 2024

  • EdgeNeXt：面向移动视觉应用的高效融合 CNN-Transformer 结构

    本研究提出了一种新型的轻量神经网络 EdgeNeXt，通过引入 STDA 编码器，在不增加计算成本的情况下，将 CNN 和 Transformer 模型的优点结合起来，以实现多尺度特征的编码和有效利用，从而达到资源高效的目的。在分类、检测和分割任务中，较之于其他最先进方法，EdgeNet 在计算要求较低的条件下表现出更佳的性能，表现出其在实践中的潜力。

    Jun, 2022

  • 语义分割的注意力网络的实证研究

    语义分割是计算机视觉中的一个重要问题。近期，采用端到端卷积神经网络的语义分割算法比传统方法更准确。然而，基于注意力机制的解码器在多个数据集上已经达到了最先进的性能，但这些网络通常只与之前的最佳网络的 mIoU 进行比较，忽略了它们的特点，并未考虑到不同类别中的计算复杂性和精度，这在工程应用中是必不可少的。此外，分析 FLOPs 和内存的方法在不同网络之间不一致，使得比较难以使用。此文首先进行实验以分析其计算复杂性并比较其性能。然后总结适用于这些网络的场景，并得出构建注意力网络时应关注的关键点。最后，指出了注意力网络的一些未来方向。

    Sep, 2023

  • 基于注意力机制的神经文本分割

    本文提出了一种基于注意力机制的双向 LSTM 模型，使用卷积神经网络学习句子嵌入，利用上下文信息预测文本分段，相比现有的竞争基准方法，在三个基准数据集上的 WinDiff 分数提高了约 7%。

    Aug, 2018

  • MaxViT-UNet: 医学图像分割的多轴注意力

    提出了 MaxViT-UNet，一种基于编码器 - 解码器的混合视觉 Transformer，用于医学图像分割，其使用多轴自注意力机制实现了胞核区域的准确分割，并在 MoNuSeg 数据集上实现了比以前的 CNN only 和 Transformer only 技术更好的 Dice 指标。

    May, 2023

  • 使用局部注意力蒙版的分割感知卷积网络

    该研究提出了一种利用卷积神经网络 (CNN) 中的分割信息的方法，通过设置 CNN 来提供嵌入空间来获取分割信息，以便在局部感受野范围内使每个神经元可以选择性地关注来自其本身区域的输入，因此适应于局部分割提示，在两个密集预测任务中展示了性能优于进行过增强的基线的结果。

    Aug, 2017

  • SegViT: 纯视觉 Transformer 的语义分割

    本文讲述了使用 Vision Transformers 来进行语义分割的能力，提出了 SegVit 模型，并介绍了 Attention-to-Mask（ATM）模块和基于查询的下采样（QD）和上采样（QU）技术，用于构建 Shrunk 结构来减小计算量。实验证明，使用 ATM 模块的 SegVit 模型在 ADE20K 数据集上优于使用常规 ViT 骨干网络的 SegVit 模型，并在 COCO-Stuff-10K 和 PASCAL-Context 数据集上达到了新的排名最佳性能。

    Oct, 2022