该论文提出一种构建卷积层、使其对任何指定李群的变换具有等变性的通用方法,并展示了该方法在图像、分子数据和Hamiltonian系统等领域的应用。该方法特别适用于Hamiltonian系统,可以保持线性和角动量的精确守恒。
Feb, 2020
本文提出了一种具有置换不变性和数据空间变换等变性的元学习方法 EQuivCNP,其建立在数据集的置换不变性与常规条件神经过程(CNPs)相同,且具有转换等变性;结合群等变性提供了考虑现实世界中的数据对称性的方式,并使用李群卷积层构建体系结构进行实际实现,EquivCNP 在具有等变性的情况下能够实现零样本泛化。
Feb, 2021
提供求解矩阵群等变层的通用算法,在多个未曾解决的群中构建具有多个群等变性的多层感知器,优于非等变基线模型,在粒子物理和动力系统中应用。
Apr, 2021
在物理科学中,利用李代数卷积网络(L-conv)可以发现物理学和对称性之间的直接联系,并且L-conv可以作为构建任何等变前馈结构的构建模块。
Sep, 2021
本文介绍了一种使用李群上的卷积(group convolutions over Lie groups)来实现任何形变的不变性的严谨数学框架,经实验证明在具有仿射不变性的分类任务中,我们的方法比传统CNN提高了30%的准确性,同时优于大多数CapsNets。
Nov, 2021
本文针对深度学习的无监督学习,将群不变和群等变表示学习扩展到了该领域。我们提出了一种基于编码器-解码器框架的通用学习策略,其中潜在表示被分为不变项和等变群作用项。在利用预测适当的群作用来对齐输入和输出姿势以解决重建任务时,网络可以学习将数据编码和解码为群不变表示。我们导出依变编码器的必要条件,并针对旋转,平移和置换明确描述了我们的构造。我们在不同网络架构下使用不同数据类型进行各种实验,测试了我们方法的有效性和鲁棒性。
Feb, 2022
本文提出了一个通用的Equivariant神经网络架构,能够尊重任何减少Lie群G的有限维表示的对称性,并用于解决几个问题,例如高能物理学,量子力学,量子色动力学,形状识别,图像识别等。
May, 2023
该研究提出了一种Lie群-CNN模型,利用群卷积模块的全连接网络和Lie-代数实现了尺度旋转等变性,进而成功地从图像中提取几何特征并实现了对图像的等变识别。
Jun, 2023
使用李群和李代数的结构与几何学,提出了一个框架,用来在大多数情况下处理几何变换的不规则群,重点关注李群 GL+(n, R) 和 SL(n, R),以及它们作为仿射变换的表示。通过将`较大的`群分解为子群和子流形来实现不变积分和全局参数化。在这个框架下,我们展示了如何参数化卷积核来构建关于仿射变换等变的模型,并在标准的仿射不变基准分类任务上评估了我们模型的鲁棒性和越域泛化能力,结果表明我们的模型优于所有先前的等变模型以及所有胶囊网络提议。
Oct, 2023
本研究解决了在偏微分方程求解器中直接实现等变性模型架构的难题,尤其是在非紧致对称群的情况下。提出的李代数标准化(LieLAC)方法仅利用对称群的无穷小生成元的作用,避免了对全群结构的要求,从而实现了与现有无约束预训练模型的有效整合。实验结果表明,LieLAC在不变图像分类和李点对称等变神经偏微分方程求解中展现了显著的效果。
Oct, 2024