Point Transformer V2: 分组向量注意力与基于分区的池化

Oct, 2022

Point Transformer V2: 分组向量注意力与基于分区的池化

Point Transformer V2: Grouped Vector Attention and Partition-based Pooling

Xiaoyang Wu, Yixing Lao, Li Jiang, Xihui Liu, Hengshuang Zhao

TL;DR本研究致力于探索 3D 点云理解的 transformer 架构，提出了一种有效的 Point Transformer V2 模型，通过对先前工作的局限性进行分析，提出了一种具有新颖设计的 group vector attention、轻量级的基于分区的池化方法等，实现了更好的性能表现并刷新了几个具有挑战性的 3D 点云理解基准结果。

Abstract

As a pioneering work exploring transformer architecture for 3d point cloud understanding, Point Transformer achieves impressive results on multiple highly competitive benchmarks. In this work, we analyze the limitations of the Point Transformer and propose our powerful and efficient

point transformer v2 3d point cloud group vector attention partition-based pooling state-of-the-art

发现论文，激发创造

点变换器 V3：更简单、更快、更强

该论文通过利用规模优势，在点云处理中解决了准确性和效率之间的权衡问题，提出了一种简单高效的 Point Transformer V3 模型，并在多个室内外场景的 20 个下游任务中取得了最先进的结果。

Dec, 2023

快速点变换器

本文介绍了一种基于 Fast Point Transformer 的新型轻量级自我关注层的方法，用于对大型 3D 场景进行处理和提高计算效率，并应用于 3D 语义分割和 3D 检测，具有与基于体素的最佳方法相竞争的准确性和比 Point Transformer 更快的推理时间。

Dec, 2021

PVTransformer：用于可扩展的三维物体检测的点对体素变换器

信息瓶颈限制了 3D 物体检测的准确性和可扩展性，因此我们提出了基于 Transformer 的 PVTransformer 架构，通过用注意模块替换 PointNet 池化操作来改善点到体的聚合函数，从而在广泛使用的 Waymo Open Dataset 上实现了卓越的表现。

May, 2024

点变换器

该研究介绍了一种名为 Point Transformer 的神经网络，它直接处理无序和无结构的点集，通过引入局部 - 全局注意机制获取局部和全局特征，并通过引入 SortNet 确保输入置换不变性。Point Transformer 的输出是一个排序并且置换不变的特征列表，可直接用于常见的计算机视觉应用。研究结果表明，与先前的工作相比，其在标准分类和部分分割基准测试中具有有竞争力的结果。

Nov, 2020

基于点云的三维深度学习 VTPNet

本文提出了一种 Voxel-Transformer-Point（VTP）块，结合了体素法，基于点的 Transformer 法和基于点的方法，分别从粗粒度、局部和全局角度提取点云的特征，并使用其构建 VTPNet 用于 3D 点云学习，在多个数据集上都表现出良好的性能。

May, 2023

Tensorformer: 高质量点云重建的归一化矩阵注意力变换器

通过引入新的矩阵关注 Transformer（Tensorformer）来实现更好的局部几何建模和更高质量的表面重建，成果在两个常用的数据集上均已超越同行，并在 ShapeNet 上取得 4％的 IOU 改进。

Jun, 2023

3D 医学点变换：为医学点云分析引入卷积到注意力网络

本篇文章提出了一种特定于医用点云的基于注意力机制的 3D 医用点云 Transformer (3DMedPT) 模型，通过增加上下文信息和在查询时总结局部响应，可以捕捉局部和全局特征交互，同时应用位置嵌入学习准确的局部几何形状和多图推理 (MGR) 来丰富特征表示，在医用数据上的实验表明该方法的分类和分割能力优于其他方法，并且具有良好的泛化能力。

Dec, 2021

CloudAttention：用于 3D 点云学习的高效多尺度注意力方案

使用集合转换器在分层框架中对点云进行形状分类和分割，实现了状态 - of-the-art 的性能，并可用于处理大规模稀疏数据。

Jul, 2022

点变形器的迁移学习

基于 Point Transformers 模型的分类性能在 ModelNet10 数据集上表现良好，并在 fine-tuning 后用于 3D MNIST 数据集分类，在这种情况下，迁移学习模型没有超过基于 3D MNIST 数据集从头开始训练的模型，虽然我们预期迁移学习模型收敛更快，因为它们已经了解了 ModelNet10 数据集中的边缘、角点等低层特征。

Apr, 2024

PointVector：点云分析中的向量表示

本文探讨了基于点云的方法在点云分析中的应用，提出了一种聚合邻近特征的高维向量的 “Vector-oriented Point Set Abstraction” 方法，并开发了一种 PointNeXt 结构的 PointVector 模型以提高特征提取的效率，此方法在 S3DIS Area 5 上和 S3DIS (6 折交叉验证) 上取得了 72.3% 和 78.4% 的 mIOU 的优异表现，在研究中探索了更加紧凑和有效的特征表示方法。

May, 2022