群等变神经网络的理论方面
本研究论文探讨卷积神经网络在对称群中的应用,提出了群等变神经网络的概念和架构,以及使用多种层和滤波器的方法,为对称群的表示和胶囊的细节做出了数学分析。
Jan, 2023
本文提出了一个 G-CNNs 的数学框架,证明了如果输入和输出特征空间根据受激表示变换,则网络的层为卷积操作。这个结果确定了 G-CNNs 是一个通用的等变网络结构类,它一般化了最近对正则表示之间的交错操作的重要工作。
Mar, 2018
介绍了一种新的方法:Clifford Group Equivariant Neural Networks。从 Clifford 代数中识别和研究 Clifford group 子群,形成了一个直接在向量基础上运算、高效推广到任意维数的 Equivariant Neural Network 层。从三维 N 体实验、四维 Lorentz-equivariant 高能物理实验到五维凸包实验都获得了最新的技术成果。
May, 2023
介绍了一种新型卷积神经网络,称为 Group equivariant Convolutional Neural Networks (G-CNNs),它通过利用对称性降低样本复杂度,使用新型层 G-convolutions,增加网络的表达能力,且易于使用和实现。 G-CNNs 在 CIFAR10 和旋转的 MNIST 上实现了最先进的结果。
Feb, 2016
本文介绍一种使用群等变卷积神经网络来解决逆问题的学习重建方法,通过在迭代方法中建立群等变卷积神经网络解决拉伸同变的问题,实现了低剂量计算机断层成像重建和子采样磁共振成像重建的质量提升。
Feb, 2021
本研究提出了关于群等变卷积神经网络(G-CNNs)在同种空间如欧几里德空间和球面上的总体理论。这些网络中的特征映射表示同种基本空间上的场,层是场空间之间的等变映射。该理论使得所有现有的 G-CNNs 都能按照它们的对称群、基础空间和场类型进行系统分类。我们还考虑了一个根本性问题:什么是给定类型的特征空间(场)之间等变线性映射的最普遍类型?我们证明这样的映射与使用等变核进行卷积一一对应,并且表征了这些核的空间。
Nov, 2018
使用李群和李代数的结构与几何学,提出了一个框架,用来在大多数情况下处理几何变换的不规则群,重点关注李群 GL+(n, R) 和 SL (n, R),以及它们作为仿射变换的表示。通过将 `较大的` 群分解为子群和子流形来实现不变积分和全局参数化。在这个框架下,我们展示了如何参数化卷积核来构建关于仿射变换等变的模型,并在标准的仿射不变基准分类任务上评估了我们模型的鲁棒性和越域泛化能力,结果表明我们的模型优于所有先前的等变模型以及所有胶囊网络提议。
Oct, 2023
本文首先说明深度学习中卷积神经网络在图像识别方面的成功,然后介绍了将此框架推广到其他领域的尝试,并给出了使用表示论和非交换调和分析概念的卷积和等变性的理论证明,证明了卷积结构不仅是充分而且也是必要的对于紧致群作用的等变性的条件,并推导了新的广义卷积公式。
Feb, 2018
该研究描述了在可旋转卷积神经网络框架中的 $E (2)$- 等变卷积,提出了转换特性表示描述特征空间变换法则的群表示。研究人员证明了这些约束可以通过使用不可约表示约简为任意群表示的约束,并通过实现一系列先前提出的和全新的等变网络架构进行了广泛比较,表明当用作非等变卷积的替代品时,在 CIFAR-10、CIFAR-100 和 STL-10 上使用 $E (2)$- 可旋转卷积可以取得显著的改进。
Nov, 2019