Oct, 2023

P2AT：金字塔池化轴向变换器实时语义分割

PDF
TL;DR我们提出了一种名为 Pyramid Pooling Axial Transformer（P2AT）的实时语义分割架构，它利用 Transformer 模型和多级特征聚合方案来提高语义分割性能，并在三个具有挑战性的场景理解数据集上取得了表现优异的结果。
transformer-based modelsreal-time semantic segmentation architecturepyramid pooling axial transformerbidirectional fusion modulesemantic segmentation
发现论文，激发创造
  • P2T: 金字塔池化变换器用于场景理解

    该研究旨在将金字塔池化方法应用于多头自注意力中，从而建立通用的金字塔池化变压器（P2T）骨干网络，在各种视觉任务中实现了较之前的卷积神经网络和变压器网络更优异的表现，同时降低了序列长度和捕捉了强大的上下文特征。

    Jun, 2021

  • 金字塔融合变压器用于语义分割

    本研究提出了一种基于 Transformer 的 Feature Pyramid Fusion Transformer (PFT) 方法，结合学习到的查询和 Feature Pyramid 中的每个空间特征进行交叉注意力和交叉尺度的互补信息交换，提高了面向掩码的语义分割性能，并在三个广泛使用的语义分割数据集上达到了与现有最佳方法相比的最先进的性能。

    Jan, 2022

  • 针对医学图像通用分割的混合双金字塔 Transformer-CNN 的注意力门控重新思考

    本研究提出了一种新型混合 CNN-Transformer 分割架构 (PAG-TransYnet)，通过在双金字塔混合编码器中利用注意力门，利用金字塔输入突出显示不同尺度的突出特征，将 PVT Transformer 引入以捕获多种分辨率的长距离依赖，并通过实施双注意力门机制来有效融合 CNN 和 Transformer 分支的突出特征。通过对不同分割任务的综合评估，包括腹部多器官分割、感染分割 (新冠肺炎和骨转移)、显微组织分割 (腺体和细胞核)，所提出的方法展现了领先的性能，并展示了出色的泛化能力。该研究在医学成像应用中对于高效和适应性分割解决方案的迫切需求方面取得了重要进展。

    Apr, 2024

  • AFTer-UNet：医学图像分割轴向融合 Transformer UNet

    本篇论文提出了一种名为 Axial Fusion Transformer UNet (AFTer-UNet) 的方法，它结合了卷积层和 Transformer 的优势，同时考虑了切片内和切片间的长距离信息，在医学图像分割中优于现有技术。

    Oct, 2021

  • 金字塔医疗转换器用于医学图像分割

    通过应用金字塔形网络结构、多尺度注意力和 CNN 特征提取，我们提出了一种称为金字塔医疗变压器（PMTrans）的新型方法，可以更好地处理医学图像分割任务。在三个医学图像数据集上的实验结果表明，PMTrans 相较于最新的基于 CNN 和变压器的模型，具有更好的性能。

    Apr, 2021

  • SeaFormer: 移动语义分割的压缩增强轴向 Transformer

    本文介绍了一种新的方法 Squeeze-enhanced Axial TransFormer（SeaFormer），用于移动语义分割，并通过在 ADE20K 和 Cityscapes 数据集上达到了最佳分割准确性和延迟之间的权衡，在 ARM 基础的移动设备上打败了移动友好的竞争对手和基于 Transformer 的对手，同时具有更好的性能和更低的延迟，并可进一步用于图像分类问题，展示作为一个通用移动友好的主干的潜力。

    Jan, 2023

  • 用于实时无人机跟踪的连体变压器金字塔网络

    这篇论文介绍了 Siamese Transformer Pyramid Network（SiamTPN）方法，该方法结合了 CNN 和 Transformer 的优势，并针对移动平台的计算资源有限的情况，构建了一个稳健的、针对目标的外观模型。实验结果表明，该方法在高速操作时取得了竞争性的结果，且在 LaSOT 数据集上的 AUC 得分为 58.1%。

    Oct, 2021

  • ParaTransCNN：用于医学图像分割的并行化 TransCNN 编码器

    将卷积神经网络和 Transformer 架构相结合，提出了一种先进的二维特征提取方法，利用平行编码器和通道注意模块实现更好的医学图像分割准确性。

    Jan, 2024

  • 金字塔视觉变换器改进基线 PVT v2

    本文介绍了改进原 Pyramid Vision Transformer (PVT v1) 的三种新方法，并将其命名为 PVT v2。其中包括线性复杂度注意层、重叠的贴片嵌入以及卷积前馈网络。经过这些修改，PVT v2 通过使计算复杂度线性化，显著提高了基础视觉任务（如分类、检测和分割）的性能，并取得了与最近的 Swin Transformer 等其他作品相当或更好的表现。希望这项工作能促进计算机视觉领域中最先进的 Transformer 研究。

    Jun, 2021

  • 医学变压器：门控轴向注意力在医学图像分割中的应用

    本文探讨了 Transformer 网络架构在医学图像分割任务中的可行性，并提出了一种 Gated Axial-Attention 模型和 Local-Global 训练策略以提高模型性能。实验表明，在三组不同的医学图像数据集上，该 Medical Transformer 模型优于卷积和其他相关的 Transformer-based 架构。

    Feb, 2021