Oct, 2023

李代数 Lie 神经网络：伴随等变型的半单李代数神经网络

PDF
TL;DR本文提出了一个以李代数数据作为输入的伴随等变性神经网络，通过共轭描述变换基的变化，利用杀正则化的不变性特性，该网络是一个可适用于任意半单李代数的简单结构，可作为多层感知器的李代数推广，扩展了等变性特征学习的应用场景，并展示了在使用 sl (3) 李代数进行同态建模中的价值。
adjoint-equivariant neural networklie algebra dataequivariant feature learningsemisimple lie algebrashomography modeling
发现论文，激发创造
  • 等变神经网络的李群分解

    使用李群和李代数的结构与几何学，提出了一个框架，用来在大多数情况下处理几何变换的不规则群，重点关注李群 GL+(n, R) 和 SL (n, R)，以及它们作为仿射变换的表示。通过将 `较大的` 群分解为子群和子流形来实现不变积分和全局参数化。在这个框架下，我们展示了如何参数化卷积核来构建关于仿射变换等变的模型，并在标准的仿射不变基准分类任务上评估了我们模型的鲁棒性和越域泛化能力，结果表明我们的模型优于所有先前的等变模型以及所有胶囊网络提议。

    Oct, 2023

  • 关于纽约利群上等变神经网络的一般框架

    本文提出了一个通用的 Equivariant 神经网络架构，能够尊重任何减少 Lie 群 G 的有限维表示的对称性，并用于解决几个问题，例如高能物理学，量子力学，量子色动力学，形状识别，图像识别等。

    May, 2023

  • 李代数卷积网络自动对称性发现

    在物理科学中，利用李代数卷积网络（L-conv）可以发现物理学和对称性之间的直接联系，并且 L-conv 可以作为构建任何等变前馈结构的构建模块。

    Sep, 2021

  • LieTransformer：李群中的等变自注意力

    本文提出了 LieTransformer，这是一种由 LieSelfAttention 层组成的网络结构，可以处理不同类型的 Lie 群及其离散子群的不变性，并通过实验表现出一定的竞争力，可以在点云形状计数、分子属性回归、粒子在哈密顿动力学下的轨迹建模等方面提升数据效率。

    Dec, 2020

  • 使用等变晶格神经网络提升流体动力学中的晶格动力方案

    我们提出了一种新的等变神经网络类，即栅格等变神经网络（LENNs），旨在满足栅格结构的局部对称性。

    May, 2024

  • 粒子物理学中的 Lorentz 群等变神经网络

    本文介绍一种基于洛伦兹群的有等变性的神经网络体系结构，其用于分类任务在粒子物理学中表现出的结果优于卷积神经网络和点云方法。

    Jun, 2020

  • 将卷积神经网络推广至任意连续数据上的李群等变

    该论文提出一种构建卷积层、使其对任何指定李群的变换具有等变性的通用方法，并展示了该方法在图像、分子数据和 Hamiltonian 系统等领域的应用。该方法特别适用于 Hamiltonian 系统，可以保持线性和角动量的精确守恒。

    Feb, 2020

  • E (n) 等变图神经网络

    本文介绍了一种新的模型来学习具有等变性的图神经网络，称为 EGNN，此方法不需要在中间层中计算昂贵的高阶表示，同时具有竞争力或更好的性能，在 3 维空间等变性上具有比现有方法更大的伸缩性，并在动态系统建模，图自编码器中的表征学习和预测分子性质方面证明了其有效性。

    Feb, 2021

  • 紧致矩阵量子群等变神经网络

    我们得出了一种新型的神经网络，叫做紧致矩阵量子群等变神经网络，它能够从具有基础量子对称性的数据中进行学习。我们应用 Woronowicz 的 Tannaka-Krein 对偶形式来描述出这些神经网络中所出现的权重矩阵，并对任意简单紧致矩阵量子群给出了权重矩阵的表征。我们展示了紧致矩阵量子群等变神经网络包含了所有紧致矩阵群等变神经网络的子类。此外，我们对许多之前在机器学习文献中未出现过的紧致矩阵群等变神经网络的权重矩阵进行了表征。

    Nov, 2023

  • 群等变神经网络的理论方面

    本文介绍了群等变神经网络及其在机器学习中的应用及理论，其中包括群表示理论、非交换调和分析和微分几何等内容，研究结果表明这些网络可以降低样本和模型的复杂性，在输入具有任意相对角度的挑战性任务中表现出色。

    Apr, 2020