使用集合转换器在分层框架中对点云进行形状分类和分割，实现了状态 - of-the-art 的性能，并可用于处理大规模稀疏数据。

Jul, 2022

本文提出了一种基于自注意力和多尺度非欧几里得几何信息的插件模块 Multi-scale Geometry-aware Transformer（MGT），通过对点云数据的局部和全局几何信息的处理，成功提高了点云任务的性能表现。

Apr, 2023

提出了 PointGPT 方法来扩展 GPT 模型到点云中进行自回归生成任务的预训练，其通过多个点序列来实现学习潜在的表示，并在各种下游任务中实现了最先进的性能，特别是在 few-shot 学习方面也产生了新的 state-of-the-art 结果。

May, 2023

此篇论文介绍了一种新的自回归模型 PointGrow，它可以通过自回归的方法并结合自注意力机制，从语义上下文条件或无条件生成多样而逼真的 3D 点云数据，可应用于非监督特征学习和形状算术操作等多个重要应用领域。

Oct, 2018

本文提出了一种基于几何感知的自我训练（GAST）方法，通过两种自监督几何学习任务作为特征规则化，以学习语义类别的域共享表示来提高对实际数据中基于点的几何体的未见分布的判别力。实验表明，我们的 GAST 方法可以显著优于现有的最先进方法。

Aug, 2021

基于区域转换器的自我注意力机制的增长式点云分割模型优于以往的通用类和特定类方法，通过自我注意力捕捉远距离依赖关系，在训练过程中避免了对语义标签的需求，适用于灵活的点云分割，并可应用于机器人技术、数字化双生和自动驾驶等领域。

Mar, 2024

本研究提出了两种三维物体检测的自我注意力模型，即通过将卷积特征与自我注意力特征相结合，将成对的自我注意力机制纳入最新的基于 BEV、体素和点云检测器，最终在 KITTI 验证集上证明了模型精度的一致提高，同时减少了运算量和计算成本，实现了更好的参数效率和计算效率。

Jan, 2021

本论文介绍了一种基于 transformer 模型的多头自注意力结构和位置融合块的点云上采样方法，并通过定量和定性的对比实验证明了其优越性能。

Nov, 2021

利用跨注意力机制和自我关注机制设计新型神经网络 PointAttN，消除了现有方法中局部区域划分对点云密度分布敏感的问题，其在处理点云的过程中以点为基本单位进行计算，以简单而有效的方式直接建立点之间的短程和长程结构关系，因此可以精确地捕捉三维形状的结构信息，并预测具有高度详细几何形状的完整点云。PointAttN 在 Completion3D 和 PCN 等流行基准测试中优于现有技术的表现，代码可在 https URL 上获取。

Mar, 2022

本文提出了一种基于 Point Cross-Attention Transformer 的新型端到端网络结构，将多尺度特征通过两个不同的跨注意力变换器分支进行组合，并引入一种有效的形状分类模型，通过计算不同分支的单类标记与注意图来减少计算负担，实验表明该方法在形状分类，部分分割和语义分割任务中表现优异。

Apr, 2023