Jun, 2020

SE (3)-Transformers：三维旋转平移等变注意力网络

PDF
TL;DR本文介绍了 SE (3)-Transformer，一种用于 3D 点云和图形的自我注意模块，它在连续 3D 旋转变换下具有等变性。SE (3)-Transformer 利用自我注意的好处来处理点云和图形，同时保证了 SE (3)- 等变性，从而提高了模型的稳健性和预测性能。本文的模型在多个数据集上均取得了竞争性能，超过了一个强的非等变的基准模型和一个等变的模型没有注意力。
发现论文，激发创造
  • 用于三维点云分析的等变点网络

    本文提出了一个有效的 SE（3）网络，它是针对点云分析领域中 3D 形状对齐任务而设计的，可以利用等变特征来提高性能并解决相对较少探索的旋转等变特征对 3D 形状对齐任务的处理问题。我们采用一个新的框架 SE (3) 可分点卷积来降低计算成本，并在网络中引入一个注意力层来有效地利用等变特征的表达能力。通过广泛的研究和视觉解释，实证结果表明，我们提出的模型在各种基准测试中优于强基线。

    Mar, 2021

  • Equiformer: 三维原子图的等变图注意力变换器

    本文提出的 Equiformer 是一种图神经网络，利用变换器架构的优势，并结合基于不可约表示（irreps）的 SE (3)/E (3) 等变特征，取得了在 QM9、MD17 和 OC20 数据集上与之前模型相当的好的性能。

    Jun, 2022

  • 张量场网络：旋转和平移等变神经网络在三维点云中的应用

    介绍了局部等变于 3D 旋转，平移和点的排列的张量场神经网络；使用球谐函数构建滤波器，接受标量、向量和高阶张量作为输入，并在几何意义下保证输出。用于处理几何、物理和化学任务。

    Feb, 2018

  • E2PN: 高效的 SE (3) 等变点网络

    本文提出了一个用于学习来自 3D 点云的 SE (3)- 等变特征的卷积结构。它将 KPConv（一种广泛用于处理点云数据的卷积形式）视为等变版本。通过组合群卷积和商表示，我们实现了一个简单，轻量级，快速的设计，能与现有的任务特定点云学习管道集成，同时在各种任务中实现了可比较或更优的性能，消耗更少的内存和运行速度更快。通过实验，我们展示了该方法可以促进点云等变特征学习在实际应用中的采用并激发未来应用的发展。

    Jun, 2022

  • 可扩展等变学习的 SE (3)- 土狼算子

    基于 Hyena 操作符的等变长卷积模型 SE (3)-Hyena，在保持旋转和平移等变性的同时，以次二次复杂度捕捉全局几何上下文，处理长序列时比等变自注意力机制更省内存和计算资源。

    Jul, 2024

  • 无监督刚体分割与运动估计的多体 SE (3) 等变性

    该研究提出了一种使用 SE (3) 等变特征进行刚体分割和运动估计的无监督学习方法，大大提高了模型效率和性能，并在四个数据集上进行实验证明了其有效性。

    Jun, 2023

  • 设计对称神经网络处理三维点云

    该研究旨在通过引入群等变性，提高当前用于 3D 点云的神经网络的泛化和鲁棒性。在实验中，该方法表现出比其他群等变模型更优越的性能，且具有较低的复杂度和 GPU 内存占用，提升了诸如物体分类和语义分割等任务的性能。

    May, 2022

  • 等变描述符场：SE（3）等变能量模型用于端到端的视觉机器人操作学习

    本文利用李群的表示理论构建了新的 SE (3) - 等变能量模型，允许高样本的端到端学习。我们证明这些模型可以从头开始学习，但具有很高的样本效率，并且可以推广到具有不同要求的任务中。

    Jun, 2022

  • 点云识别的离散旋转等变性

    该论文提出了一种深度学习架构，能够在点云识别中实现离散的 SO（2）/SO（3）旋转等变性，通过消除置换并进行操作，提升了任何现有点云网络的性能，并在各种旋转下，展示了分类任务的最新成果。

    Mar, 2019

  • 3D Steerable CNNs：学习体数据中的等变特征

    本文提出了一种卷积网络，它对刚体运动具有等变性。使用 3D 欧几里得空间上的标量场、向量场和张量场来表示数据，并使用等变卷积在这些表示之间映射。实验结果验证了 3D Steerable CNN 对氨基酸倾向预测和蛋白质结构分类等问题的有效性，这些问题均具有 SE（3）对称性。

    Jul, 2018