Oct, 2023

G - 对称网络中健壮的 G - 不变性的通用框架

PDF
TL;DR我们引入了一种在群等变卷积神经网络（$G$-CNNs）中实现鲁棒群不变性的通用方法，称之为 $G$-triple-correlation ($G$-TC) 层。该方法利用了群上的三重相关性理论，即唯一的、最低次多项式不变映射，也是完备的。通过与标准 Max $G$-Pooling 在 $G$-CNN 体系结构中相比较，我们观察到 $G$-TC 层在分类精度上具有显著的改进。
robust group-invariancegroup-equivariant convolutional neural networks$g$-triple-correlation ($g$-tc) layerinvariant mapsclassification accuracy
发现论文，激发创造
  • 群等变卷积网络

    介绍了一种新型卷积神经网络，称为 Group equivariant Convolutional Neural Networks (G-CNNs)，它通过利用对称性降低样本复杂度，使用新型层 G-convolutions，增加网络的表达能力，且易于使用和实现。 G-CNNs 在 CIFAR10 和旋转的 MNIST 上实现了最先进的结果。

    Feb, 2016

  • 线性等变网络的隐性偏差

    本文研究群等变卷积神经网络，在训练时隐式地通过具体的架构对模型进行正则化处理来实现其显式的对称性偏置，从而实现模型的推广。同时，文中还提出了傅里叶空间隐式正则化模型的解释，并通过实验证明了该模型的有效性。

    Oct, 2021

  • 变形鲁棒的旋转 - 缩放 - 平移等变卷积神经网络

    该研究提出了一种基于耦合群卷积的旋转、缩放和平移等变卷积神经网络 RST-CNN，该网络通过稳定性分析可证明具有变形鲁棒性，能在旋转、缩放和平移等输入畸变的情况下保持等变性，从而在 MNIST、Fashion-MNIST 和 STL-10 数据集上实现了显著提升。

    Nov, 2021

  • 用于鲁棒星系形态分类的 E (2) 等变神经网络

    使用群卷积神经网络 (GCNNs) 基于数据的对称性对星系形态分类任务进行研究，通过引入人为扰动和模拟观测能力的限制来进行鲁棒性研究，发现 GCNN 在分类准确性和鲁棒性方面优于非等变的对应模型。

    Nov, 2023

  • 群等变神经网络的理论方面

    本文介绍了群等变神经网络及其在机器学习中的应用及理论，其中包括群表示理论、非交换调和分析和微分几何等内容，研究结果表明这些网络可以降低样本和模型的复杂性，在输入具有任意相对角度的挑战性任务中表现出色。

    Apr, 2020

  • 诱导表示之间的交织算子（及其在等变神经网络理论中的应用）

    本文提出了一个 G-CNNs 的数学框架，证明了如果输入和输出特征空间根据受激表示变换，则网络的层为卷积操作。这个结果确定了 G-CNNs 是一个通用的等变网络结构类，它一般化了最近对正则表示之间的交错操作的重要工作。

    Mar, 2018

  • 李群上的 B - 样条卷积神经网络

    在这篇论文中，我们提出了一种基于 B 样条的模块化框架，用于在任意 Lie 群中设计和实现 G-CNNs 的方法，并在两个基准数据集上研究其影响和潜力。

    Sep, 2019

  • 逆问题的等变神经网络

    本文介绍一种使用群等变卷积神经网络来解决逆问题的学习重建方法，通过在迭代方法中建立群等变卷积神经网络解决拉伸同变的问题，实现了低剂量计算机断层成像重建和子采样磁共振成像重建的质量提升。

    Feb, 2021

  • 群等变生成对抗网络

    该研究采用群等变卷积网络采用显式诱导对称性先验，有效提高生成对抗网络中条件综合的表现，在对称成像数据集方面表现尤为显著。

    May, 2020

  • 神经网络对不变映射的通用逼近

    我们将神经网络的普适逼近定理推广到对于线性表示组不变或等变的映射，以建立一种像网络一样的计算模型，能够在能够逼近任何连续不变 / 等变映射的同时保持不变 / 等变。我们提出了完备的不变 / 等变网络的构造，通过引入中间多项式层，通过 Hilbert 和 Weyl 的定理证明了我们的构造方法。我们提出了适用于 SE（2）群的 “电荷守恒卷积” 模型，并证明其是连续 SE（2）等变信号变换的通用逼近器。

    Apr, 2018