Jan, 2024

ScatterFormer：具有分散线性关注的高效体素变换器

PDF
TL;DR本文介绍了一种名为 ScatterFormer 的新方法，该方法能够直接对具有不同长度的体素集进行注意力计算，并通过 Cross-Window 交互模块实现窗口间信息流动，大幅提升了点云理解任务的性能。
window-based transformerspoint cloud understandingvoxelsscatterformerattention mechanism
发现论文，激发创造
  • FlatFormer: 压缩窗口注意力的高效点云 Transformer

    FlatFormer 是一种 3D 点云变压器网络，通过交换计算负荷和提取局部特征以实现节省计算时间的效果，在边缘 GPU 上实现了实时性能，并在大规模基准测试上达到与或甚至更好的准确性。

    Jan, 2023

  • SWFormer：用于点云三维物体检测的稀疏窗口变换器

    本文提出了一种针对 3D 目标检测的模型 Sparse Window Transformer（SWFormer），它能够充分利用点云数据的稀疏性，并通过 “桶” 技术对不同长度的稀疏窗口有效地进行处理。在 Multi-scale 特征融合和窗口偏移操作的基础上，作者还引入了新的体素扩散技术。最终，在 Waymo Open Dataset 上的实验结果表明，SWFormer 相比于所有先前的单阶段和两阶段模型，取得了最新的 73.36 L2 mAPH 表现，同时更加高效。

    Oct, 2022

  • OctFormer: 三维点云的基于八叉树的 Transformer 模型

    OctFormer 使用基于八叉树的关注机制进行分割和检测，这种关注机制具有高效性和灵活性，且在多个基准测试中表现出优异的性能。

    May, 2023

  • ScatterFormer：局部不变散射变换器用于患者无关的多光谱癫痫放电检测

    本研究提出用于诊断癫痫的新方法 Scattering Transformer，该方法可以利用高频信息捕获 EEG 信号的细节特征，并在两项癫痫电图检测任务中表现良好，特别是在新生儿癫痫检测中表现优异。

    Apr, 2023

  • 基于激光雷达的三维识别球形变压器

    本文提出了一种名为 SphereFormer 的方法，通过设计射线窗口自我关注机制，将密集的近距离点聚集到稀疏的远距离点，从而扩大感受野，提高了稀疏远距离点的性能，并在 nuScenes 和 SemanticKITTI 语义分割基准测试排名第一，取得了显著的性能提升。

    Mar, 2023

  • Cluster-Former: 基于聚类的稀疏变形器，用于长距离依赖编码

    本研究提出了一种基于聚类的稀疏 Transformer 模型，它由滑动窗口层和 Cluster-Former 层组成，能够跨越窗口编码本地序列信息和全局上下文信息，这种新的设计在回答具有长程依赖性的问题时尤其有益，实验结果表明其在多项 QA 基准测试中实现了最先进的性能。

    Sep, 2020

  • VoxFormer：基于摄像机的稀疏体素变换器用于三维语义场景完成

    本论文提出了一种基于 Transformer 的场景语义补全框架 VoxFormer，可以从 2D 图像中输出完整的 3D 体素语义，并在测试中获得了相对 20% 的几何和 18.1% 的语义方面的提升。

    Feb, 2023

  • SDLFormer：一种稀疏和密集的增强局部性 Transformer 用于加速 MR 图像重建

    通过整合扩张注意力机制和卷积网络，我们提出了一种基于窗口的变换器网络，用于加速 MRI 图像重建，并通过自我监督学习进行训练。实验证明，相比于其他架构和并行域自我监督学习基准，所提出的模型在 PSNR 上平均提高了 1.40 dB，在 SSIM 上平均提高了 0.028，并且在 PSNR 上相对于并行域自我监督学习提高了 1.44 dB，在 SSIM 上提高了 0.029。

    Aug, 2023

  • ViewFormer：基于视图引导的 Transformer 模型探索多视角 3D 占位感知的时空建模

    基于 3D 占据率、多视图特征聚合和动态场景的研究，我们提出了 ViewFormer，一个基于 Transformer 的视觉中心框架，具有高度的可扩展性和优越性能。

    May, 2024

  • 上下文与几何感知的体素变换器用于语义场景补全

    本文介绍了一种基于视觉的语义场景补全方法，通过稀疏到稠密的转换和上下文与几何感知，使用 CGFormer 神经网络结构在不同尺度上提高了语义和几何表示能力，取得了在两个基准数据集上的最优性能。

    May, 2024