本研究提出 Point Transformer-in-Transformer 方法，结合局部和全局注意机制来进行 3D 图形识别，旨在解决 Transformer 架构的计算效率问题和注意机制无法有效连接单个点的全局问题。实验表明，该方法比基线 Transformer 提供更有用的下游任务特征，同时也更具有计算效率。此外，该方法还可用于场景重建中的功能匹配。

Apr, 2022

本文提出了一种基于 Point Cross-Attention Transformer 的新型端到端网络结构，将多尺度特征通过两个不同的跨注意力变换器分支进行组合，并引入一种有效的形状分类模型，通过计算不同分支的单类标记与注意图来减少计算负担，实验表明该方法在形状分类，部分分割和语义分割任务中表现优异。

Apr, 2023

FlatFormer 是一种 3D 点云变压器网络，通过交换计算负荷和提取局部特征以实现节省计算时间的效果，在边缘 GPU 上实现了实时性能，并在大规模基准测试上达到与或甚至更好的准确性。

Jan, 2023

OctFormer 使用基于八叉树的关注机制进行分割和检测，这种关注机制具有高效性和灵活性，且在多个基准测试中表现出优异的性能。

May, 2023

本文介绍了一种名为 SeedFormer 的新型 Point cloud completion 方法，使用 Patch Seeds 来提高细节保留和恢复能力，并通过 Upsample Transformer 将 transformer 结构扩展到基本操作中，以实现粗到细的点云补全。定性和定量评估表明，该方法优于几个基准数据集上的现有补全网络。

Jul, 2022

本文提出了 PatchMixer 架构，通过处理局部补丁和使用 MLP 聚合补丁特征，将 MLP-Mixer 的思想扩展到 3D 点云中，以提高深度网络架构的泛化性能。

Jul, 2023

使用集合转换器在分层框架中对点云进行形状分类和分割，实现了状态 - of-the-art 的性能，并可用于处理大规模稀疏数据。

Jul, 2022

点云配准中的局部和全局特征提取是一个常见问题。本文提出了一种名为 “Point Tree Transformer (PTT)” 的新型基于 Transformer 的方法，通过构建点云的层次特征树和引入一种新的点树注意力机制（PTA）来提取细粒度的局部和全局特征，从而有效地解决低相关性点引起的性能下降和计算复杂度过高的问题。实验证明，该方法在 3DMatch、ModelNet40 和 KITTI 数据集上取得了优越的性能。

Jun, 2024

通过引入一种新颖的 CNN 模型 ——PatchMixer，我们解决了 Transformer 模型在时间序列预测任务中面临的挑战，该模型具有可以保留时间信息的排列不变自注意力机制。与传统 CNN 不同的是，我们的方法仅依赖于深度可分离卷积，可以在单一尺度的结构中提取局部特征和全局相关性。试验结果表明，与现有最先进的方法和表现最佳的 CNN 相比，PatchMixer 相对提升了分别为 3.9％和 21.2％，而且速度是最先进方法的 2-3 倍。我们将发布我们的代码和模型。

Oct, 2023

本篇文章提出了一种特定于医用点云的基于注意力机制的 3D 医用点云 Transformer (3DMedPT) 模型，通过增加上下文信息和在查询时总结局部响应，可以捕捉局部和全局特征交互，同时应用位置嵌入学习准确的局部几何形状和多图推理 (MGR) 来丰富特征表示，在医用数据上的实验表明该方法的分类和分割能力优于其他方法，并且具有良好的泛化能力。

Dec, 2021