学习可交换李群的不可约表示
使用李群和李代数的结构与几何学,提出了一个框架,用来在大多数情况下处理几何变换的不规则群,重点关注李群 GL+(n, R) 和 SL (n, R),以及它们作为仿射变换的表示。通过将 `较大的` 群分解为子群和子流形来实现不变积分和全局参数化。在这个框架下,我们展示了如何参数化卷积核来构建关于仿射变换等变的模型,并在标准的仿射不变基准分类任务上评估了我们模型的鲁棒性和越域泛化能力,结果表明我们的模型优于所有先前的等变模型以及所有胶囊网络提议。
Oct, 2023
通过将数据变化编码为 Lie 群的结构,我们提出了一种利用变换等变地表示变化的不受限制的、自适应优化的组结构,实现了无监督的解缠结学习,并在不增加额外约束的情况下取得了最先进的性能。
Jun, 2021
本研究提出迭代分割不变风险最小化(IP-IRM)算法,用于跨越简单的数据增强特征,对抽象语义进行对比学习,以实现对视觉表示力的进一步提升。该算法通过对训练样本的划分和最小化固定子不变对比损失,最终收敛到完全解耦的语义表示,且在各项基准测试中表现良好。
Oct, 2021
该文利用群表示论和可线性转换的可视化表示概念,证明了任何这种表示都等价于基本不可约表示的组合,并表明在受限条件下,不可约表示是相互独立的。在部分可观察性下,需要对可转换线性的潜在表示执行推理。此想法在利用三维转动群 SO(3)的潜在表示的旋转 NORB 对象的模型中得到了演示。
Dec, 2014
该论文提出了一种方法,可以将 Lie 群适配到高维数据集上,通过一个特定的模糊算子使推理可以逃脱局部最小值,鼓励发现稀疏的、最小距离的状态之间的变换,同时演示了如何在自然图像补丁和自然视频序列上进行变换学习和推理。
Jan, 2010
我们提出了一种新的算法,用于从其轨道的有限样本中估计紧致 Lie 群的表示。与其他报道的技术不同,我们的方法允许直接作为不可约表示的直和来检索准确的表示类型。而且,对表示类型的了解可以重建其轨道,从而有助于确定生成该动作的 Lie 群。我们的算法适用于任何紧致 Lie 群,但仅考虑了 SO (2),T^d,SU (2) 和 SO (3) 的具体实例。基于 Hausdorff 距离和 Wasserstein 距离的鲁棒性的理论保证已被导出。我们的工具是从几何测度理论、计算几何和矩阵流形上的优化中提取的。该算法在高达 16 维的合成数据以及图像分析、谐波分析和经典力学系统的实际应用中进行了测试,取得了非常精确的结果。
Jul, 2023
本文提出了一种基于核方法的技术来推导局部群不变表示,通过在群上定义适当的概率分布来实现局部性,并使用核方法的强大框架来学习这些分布上的决策函数,从而生成局部不变随机特征映射。经实验证明,在三个真实数据集上,该方法优于基于核的竞争方法,并且在 Rotated-MNIST 上表现优于深度 CNN,并且与最近提出的群等变 CNN 表现相当。
Dec, 2016
本文针对深度学习的无监督学习,将群不变和群等变表示学习扩展到了该领域。我们提出了一种基于编码器 - 解码器框架的通用学习策略,其中潜在表示被分为不变项和等变群作用项。在利用预测适当的群作用来对齐输入和输出姿势以解决重建任务时,网络可以学习将数据编码和解码为群不变表示。我们导出依变编码器的必要条件,并针对旋转,平移和置换明确描述了我们的构造。我们在不同网络架构下使用不同数据类型进行各种实验,测试了我们方法的有效性和鲁棒性。
Feb, 2022
本文提出了一个通用的 Equivariant 神经网络架构,能够尊重任何减少 Lie 群 G 的有限维表示的对称性,并用于解决几个问题,例如高能物理学,量子力学,量子色动力学,形状识别,图像识别等。
May, 2023