发现离散对称性的统一框架

Sep, 2023

A Unified Framework for Discovering Discrete Symmetries

Pavan Karjol, Rohan Kashyap, Aditya Gopalan, Prathosh A.P

TL;DR我们开发了一个统一的框架，通过线性和张量值函数的组合表达在各种子群中对称不变的函数，利用多臂老虎机算法和梯度下降优化线性和张量值函数，从而学习出对应的对称性。通过图像数字求和和多项式回归任务的实验，证明了我们方法的有效性。

Abstract

We consider the problem of learning a function respecting a symmetry from among a class of symmetries. We develop a unified framework that enables symmetry discovery across a broad range of subgroups including lo

symmetry discovery subgroups tensor-valued functions multi-armed bandit algorithms gradient descent

发现论文，激发创造

机器学习中实施、发现和促进对称性的统一框架

提供了将对称性引入机器学习模型的一种统一的理论和方法框架，包括强制已知对称性、发现未知对称性和通过施加凸正则化函数来促进对称性等方面。

Nov, 2023

识别机器学习对称性的群论结构

深度学习方法成功地用于推导保持重要物理量的对称变换。在这封信中，我们提出了一种用于检验和识别这种机器学习中发现的对称性的群论结构的方法。我们设计了损失函数，可以在对称性发现的深度学习阶段或后续的后处理阶段中探测子代数结构。我们通过 U (n) 李群家族的示例说明了这些新方法，得到了相应的子代数分解。作为粒子物理的应用，我们演示了在非阿贝尔规范对称性（如 SU (3) 和 SU (5)）自发破缺后残余对称性的识别。

Sep, 2023

学习概率对称化实现架构无关等变性

通过使用一种小型等变网络将概率分布参数化为对称化并对基模型进行端到端训练，本研究提出了一种新的框架来克服等变体系结构在学习具有群对称性的函数方面的局限性。

Jun, 2023

物理学的对称群等变架构

本文探讨了在物理学和机器学习领域中，研究对称群等变机器学习结构所带来的深度投资和收益，并讨论了应用这些方法的潜在益处和限制以及对不同物理应用的各种评估指标。

Mar, 2022

用神经网络学习李群对称变换

本文介绍了一种发现和表征数据集中未知对称性（Lie 群对称）的方法，旨在解决神经网络中进行对称性硬编码的问题，适用于模型选择、生成建模和数据分析等领域。

Jul, 2023

超越仿射变换的对称性发现

对称检测在各种机器学习任务中已经被证明可以提高性能。在连续对称性检测的背景下，现有的实验局限于对仿射变换的检测。根据流形假设，我们提出了一个用于发现超越仿射变换群的数据连续对称性的框架。我们还提供了一个类似的离散对称性的框架。我们通过实验将我们的方法与一种称为 LieGAN 的现有方法进行了比较，结果表明我们的方法在大样本量下能够有效检测仿射对称性，并且在小样本量下优于 LieGAN。我们还展示了我们的方法能够检测超越仿射群的连续对称性，并且通常比 LieGAN 更高效。

Jun, 2024

对称变换的生成模型

构建一个能够明确捕捉数据中对称性的生成模型，以便以可解释的方式学习存在的对称性，并结合现有生成模型提高边际测试日志似然和对数据稀疏化的鲁棒性。

Mar, 2024

神经网络学习对称函数的功能视角

本文主要研究了定义在概率度量上的神经网络的学习和表示，通过研究不同正则化选择下的近似和泛化界限，建立了一个具有不同非线性学习程度的功能空间等级体系，从而解决了对称函数的泛化问题。

Aug, 2020

通过隐式正交性偏好发现对称群结构

HyperCube 网络引入了一种新的方法来自主发现数据中的对称群结构，该方法利用了唯一因子化架构和新颖的正则化器，以朝向学习正交表示的有力归纳偏置，并成功地从部分观察到的数据中高效地学习了一般的群操作，同时恢复了完整的操作表，这些因子直接对应于底层群的精确矩阵表示，而且这些因子捕捉到了群的完整不可约表示集合，形成执行群卷积的广义傅里叶基础。大量与群和非群符号操作的实验显示，与 Transformer 基准相比，HyperCube 在训练速度上表现出了显著的 100-1000 倍改进和 2-10 倍的更高样本效率，这些结果表明我们的方法开启了一类能够利用数据内在对称性的深度学习模型，从而在性能和广泛适用性上取得了显著的改进。

Feb, 2024

研究学习的李群生成器 (LieGG)

提出一种方法来提取神经网络学习的对称性并评估网络对其的不变性程度。结果表明网络的对称性普遍存在于不同的结构中，但学习到的对称性质量取决于深度和参数数量。

Oct, 2022