Oct, 2023

等变神经网络的李群分解

PDF
TL;DR使用李群和李代数的结构与几何学，提出了一个框架，用来在大多数情况下处理几何变换的不规则群，重点关注李群 GL+(n, R) 和 SL (n, R)，以及它们作为仿射变换的表示。通过将 `较大的` 群分解为子群和子流形来实现不变积分和全局参数化。在这个框架下，我们展示了如何参数化卷积核来构建关于仿射变换等变的模型，并在标准的仿射不变基准分类任务上评估了我们模型的鲁棒性和越域泛化能力，结果表明我们的模型优于所有先前的等变模型以及所有胶囊网络提议。
invarianceequivariancegeometrical transformationslie groupsaffine transformations
发现论文，激发创造
  • 将卷积神经网络推广至任意连续数据上的李群等变

    该论文提出一种构建卷积层、使其对任何指定李群的变换具有等变性的通用方法，并展示了该方法在图像、分子数据和 Hamiltonian 系统等领域的应用。该方法特别适用于 Hamiltonian 系统，可以保持线性和角动量的精确守恒。

    Feb, 2020

  • 关于纽约利群上等变神经网络的一般框架

    本文提出了一个通用的 Equivariant 神经网络架构，能够尊重任何减少 Lie 群 G 的有限维表示的对称性，并用于解决几个问题，例如高能物理学，量子力学，量子色动力学，形状识别，图像识别等。

    May, 2023

  • 李代数卷积网络自动对称性发现

    在物理科学中，利用李代数卷积网络（L-conv）可以发现物理学和对称性之间的直接联系，并且 L-conv 可以作为构建任何等变前馈结构的构建模块。

    Sep, 2021

  • 尺度 - 旋转 - 等变李群卷积神经网络 (Lie Group-CNNs)

    该研究提出了一种 Lie 群 - CNN 模型，利用群卷积模块的全连接网络和 Lie - 代数实现了尺度旋转等变性，进而成功地从图像中提取几何特征并实现了对图像的等变识别。

    Jun, 2023

  • 任意 Lie 群的等变性能实现

    本文介绍了一种使用李群上的卷积（group convolutions over Lie groups）来实现任何形变的不变性的严谨数学框架，经实验证明在具有仿射不变性的分类任务中，我们的方法比传统 CNN 提高了 30％的准确性，同时优于大多数 CapsNets。

    Nov, 2021

  • LieTransformer：李群中的等变自注意力

    本文提出了 LieTransformer，这是一种由 LieSelfAttention 层组成的网络结构，可以处理不同类型的 Lie 群及其离散子群的不变性，并通过实验表现出一定的竞争力，可以在点云形状计数、分子属性回归、粒子在哈密顿动力学下的轨迹建模等方面提升数据效率。

    Dec, 2020

  • 通过李代数卷积实现准等变性

    在机器学习领域，最近，模型对于群作用的等变性已经成为重要的研究主题。本研究通过利用 Lie 群的 Lie 代数，提出了一种新颖的几乎等变性定义，并给出了一种将几乎等变性编码到模型中的实用方法。进一步，该研究还证明了等变性与等距性的关联以及几乎等变性与几乎等距性的关联，并在一定约束条件下，证明了几乎等变性流形嵌入函数与完全等变性嵌入函数之间的存在性。最后，通过在完全等变性和几乎等变性设置下的数据集上进行基准测试，证明了该方法的有效性。

    Oct, 2023

  • 逆问题的等变神经网络

    本文介绍一种使用群等变卷积神经网络来解决逆问题的学习重建方法，通过在迭代方法中建立群等变卷积神经网络解决拉伸同变的问题，实现了低剂量计算机断层成像重建和子采样磁共振成像重建的质量提升。

    Feb, 2021

  • 群等变神经网络的理论方面

    本文介绍了群等变神经网络及其在机器学习中的应用及理论，其中包括群表示理论、非交换调和分析和微分几何等内容，研究结果表明这些网络可以降低样本和模型的复杂性，在输入具有任意相对角度的挑战性任务中表现出色。

    Apr, 2020

  • 李群上的 B - 样条卷积神经网络

    在这篇论文中，我们提出了一种基于 B 样条的模块化框架，用于在任意 Lie 群中设计和实现 G-CNNs 的方法，并在两个基准数据集上研究其影响和潜力。

    Sep, 2019