ECCVJun, 2022

EdgeNeXt：面向移动视觉应用的高效融合 CNN-Transformer 结构

PDF
TL;DR本研究提出了一种新型的轻量神经网络 EdgeNeXt，通过引入 STDA 编码器，在不增加计算成本的情况下，将 CNN 和 Transformer 模型的优点结合起来，以实现多尺度特征的编码和有效利用，从而达到资源高效的目的。在分类、检测和分割任务中，较之于其他最先进方法，EdgeNet 在计算要求较低的条件下表现出更佳的性能，表现出其在实践中的潜力。
发现论文，激发创造
  • TEC-Net: 视觉 Transformer 集成卷积神经网络用于医学图像分割

    本研究采用混合卷积神经网络和 Transformer 的混合结构，提出了一种具有自适应特征提取能力和具有全局信息建模的方法，用于医学图像分割。实验结果表明，该方法比现有的方法具有更好的医学图像分割结果。

    Jun, 2023

  • CiT-Net: 卷积神经网络和视觉 Transformer 手牵手进行医学图像分割

    本文提出了一种新的医学图像分割混合架构，手持卷积神经网络和 Transformer，用于动态变形卷积和自适应互补注意模块改进卷积神经网络和 Transformer 的性能，以实现更好的医学图像分割结果。

    Jun, 2023

  • 基于 Vision Transformers 的轻量级 CNN 竞争移动设备

    通过引入高度成本效益的局部全局局部（LGL）信息交换瓶颈，结合最优的自注意力和卷积，我们引入了 EdgeViTs，这是一种新的轻便 ViTs 家族，它们能够在准确性和设备效率之间的权衡中与最佳轻量级 CNNs 竞争，并优于其他 ViTs 几乎在所有情况下，证实了模型是帕累托最优的。

    May, 2022

  • TransNeXt：用于视觉 Transformer 的强大视觉感知

    通过仿生设计的令牌混合器，模拟生物视觉和持续眼动，提出聚合注意力机制（Aggregated Attention），使特征图上的每个令牌具有全局感知能力。同时，结合学习性令牌、卷积 GLU 机制，构建新的视觉主干网络 TransNeXt，实验结果表明其在多个模型尺寸上实现了最先进的性能。

    Nov, 2023

  • RepNeXt: 一种使用结构重参数化的快速多尺度卷积神经网络

    本研究展示了一种针对资源受限应用的视觉骨干模型 RepNeXt，它整合了多尺度特征表示，并通过串行和并行结构重参数化（SRP）来增强网络深度和宽度，从而在各种视觉基准上提供了低延迟和卓越性能。

    Jun, 2024

  • ExMobileViT：移动视觉 Transformer 的轻量分类器扩展

    提出了一种有效的结构，通过小的计算开销增强了适用于移动设备的视觉 Transformer 的性能。该结构通过存储来自早期注意力阶段的信息并在最终分类器中重复利用该信息解决了现有方案的弱点。

    Sep, 2023

  • 面向边缘设备的高效人脸识别模型

    本文介绍了 EdgeFace，这是一种轻量级高效的人脸识别网络，它结合了 CNN 和 Transformer 模型的优势，使用低秩线性层优化了计算性能，适用于边缘设备，并在多个领域取得了理想的人脸识别结果。

    Jul, 2023

  • Next-ViT：面向现实工业场景的下一代视觉 Transformer

    本文提出 Next-ViT 模型，使用 Next Convolution Block 和 Next Transformer Block 捕获局部和全局信息，以加速多种视觉任务的表现，同时保持与最先进的 CNN-Transformer 混合框架的可比性，可用于实际工业场景中的高效部署。

    Jul, 2022

  • SegNeXt: 语义分割中重思卷积特征设计

    SegNeXt 是一种简单的卷积神经网络架构，通过重新审视先前成功的分割模型所拥有的特性，设计了一种基于卷积注意力机制的网络模型，该模型使用了廉价的卷积操作，有效提高了语义分割模型的性能，超越了现有技术最佳方法。

    Sep, 2022

  • MobileViT：轻量级、通用、面向移动的视觉 Transformer

    本文提出了一种 MobileViT 轻量级通用视觉变换器，将 transformers 视为卷积，可用于移动设备，取得了比 CNN 和 ViT 更好的性能，特别是在对象检测任务上。

    Oct, 2021