CVPRMay, 2023

高效 ViT: 带级联分组注意力的内存高效视觉 Transformer

PDF
TL;DR本研究提出一种高速的视觉 Transformer 模型 EfficientViT，通过优化 Memory-Hard Self-Attention (MHSA) 和注意力的多样性等方法，提高其内存利用率，加快模型速度，并在速度和准确性之间取得良好的平衡。
efficientvitvision transformersmemory efficiencyattention diversityreal-time applications
发现论文，激发创造
  • 快速视觉 Transformer 模型：具有分层注意力机制

    本文介绍了一种新的卷积神经网络和可见 - 感知变换神经网络的混合模型 ——FasterViT，利用 HAT 方法分层降低全局自注意力的计算复杂度，提高图像处理的吞吐量和效率。FasterViT 在各种计算机视觉任务中得到了广泛的验证，并表现出比竞争对手更快，更准确的性能。

    Jun, 2023

  • SHViT：带有内存高效宏设计的单头视觉 Transformer

    通过引入单头注意力模块并利用减少空间冗余的令牌表示，本文提出了一种内在地防止头部冗余并同时通过并行结合全局和局部信息提高精度的单头视觉变换器（SHViT），在速度和准确度之间达到了最先进的权衡。

    Jan, 2024

  • EfficientFormer：在 MobileNet 速度下的视觉 Transformer

    本文介绍了一种高效的纯 Transformer 设计方法 EfficientFormer，用于实现与 MobileNet 相当的性能且具有极低的推理延迟，它通过解决 ViT 中的存储器冗余问题来达到这一目的。

    Jun, 2022

  • ExMobileViT：移动视觉 Transformer 的轻量分类器扩展

    提出了一种有效的结构，通过小的计算开销增强了适用于移动设备的视觉 Transformer 的性能。该结构通过存储来自早期注意力阶段的信息并在最终分类器中重复利用该信息解决了现有方案的弱点。

    Sep, 2023

  • Next-ViT：面向现实工业场景的下一代视觉 Transformer

    本文提出 Next-ViT 模型，使用 Next Convolution Block 和 Next Transformer Block 捕获局部和全局信息，以加速多种视觉任务的表现，同时保持与最先进的 CNN-Transformer 混合框架的可比性，可用于实际工业场景中的高效部署。

    Jul, 2022

  • 移动视觉 Transformer 的可分离自注意力

    提出了一种线性复杂度的分离 self-attention 方法，使用此方法的 mobileViTv2 模型在移动设备上运行速度为 MobileViT 的 3.2 倍，同时在 ImageNet 数据集上取得 75.6% 的 top-1 准确率，比 MobileViT 高 1%。

    Jun, 2022

  • TurboViT：通过生成式架构搜索生成快速视觉 Transformer

    通过生成式架构搜索，通过掩蔽单元注意力和 Q 池设计模式创建高效分层视觉 Transformer 体系结构设计 TurboViT，相较于其他 10 种同等准确度的最新高效视觉 Transformer 网络架构设计，在 ImageNet-1K 数据集上实现了显著较小的计算复杂性和更高的计算效率。同时在实时和批处理场景下表现出强大的推理延迟和吞吐量。

    Aug, 2023

  • 通过 Token 重组加速视觉 Transformer：并非所有的修补程序都是您所需的

    本论文提出了一种在 Vision Transformer 模型的前向推理过程中重新组织图像 tokens 的方法，以提高模型的计算效率和识别准确率。结果表明，该方法能够在保持相同的计算成本的前提下，提高模型的输入规模并提高模型的识别准确率。

    Feb, 2022

  • FMViT：多频混合视觉 Transformer

    通过设计具有高频和低频特征的 FMViT 混合 Vision Transformer 模型，以及引入 gMLP、RLMHSA 和 CFB 机制来提高模型性能和减少计算开销，我们在各种视觉任务中成功提高了潜在的 TensorRT 和 CoreML 平台上的性能，相比现有的 CNNs，ViTs 和 CNNTransformer 混合架构，FMViT 在性能和计算开销方面取得了卓越的成果。

    Nov, 2023

  • 基于 FPGA 的可重构卷积 - 变换器混合高效 ViT 加速器

    本研究提出了一种基于 FPGA 的加速器，用于提高 Vision Transformers 的硬件效率，其中采用了可重构的架构以支持各种操作类型，并通过时分复用和流水线数据流来降低片外数据访问成本，实验证明其在 Xilinx ZCU102 FPGA 上能够显著优于之前的工作，达到了高达 780.2 GOPS 的吞吐量和 105.1 GOPS/W 的能效比。

    Mar, 2024