Jan, 2023

等变可操控神经网络：对对称群的特别强调综述

PDF
TL;DR本研究论文探讨卷积神经网络在对称群中的应用，提出了群等变神经网络的概念和架构，以及使用多种层和滤波器的方法，为对称群的表示和胶囊的细节做出了数学分析。
convolutional neural networksgroup equivariant neural networkssymmetry groupsequivariant layerscapsules
发现论文，激发创造
  • 群等变神经网络的理论方面

    本文介绍了群等变神经网络及其在机器学习中的应用及理论，其中包括群表示理论、非交换调和分析和微分几何等内容，研究结果表明这些网络可以降低样本和模型的复杂性，在输入具有任意相对角度的挑战性任务中表现出色。

    Apr, 2020

  • 逆问题的等变神经网络

    本文介绍一种使用群等变卷积神经网络来解决逆问题的学习重建方法，通过在迭代方法中建立群等变卷积神经网络解决拉伸同变的问题，实现了低剂量计算机断层成像重建和子采样磁共振成像重建的质量提升。

    Feb, 2021

  • 关注组等变卷积网络

    提出了一种基于视觉注意力机制的等变卷积方法 AGECN，解决了对称模式下位置和姿态关系不明确的问题，实现了对图像数据集的高效表征。

    Feb, 2020

  • 可控制的卷积神经网络

    本文介绍了可旋转卷积神经网络，这是一种高效灵活的等变卷积网络类，利用数学理论中给出的可旋转表示类型系统，我们实现了 CIFAR 图像分类基准上最先进的结果，并展示了如何构建有效利用参数的 CNN。

    Dec, 2016

  • 诱导表示之间的交织算子（及其在等变神经网络理论中的应用）

    本文提出了一个 G-CNNs 的数学框架，证明了如果输入和输出特征空间根据受激表示变换，则网络的层为卷积操作。这个结果确定了 G-CNNs 是一个通用的等变网络结构类，它一般化了最近对正则表示之间的交错操作的重要工作。

    Mar, 2018

  • 广义 E（2）等变可转 CNN

    该研究描述了在可旋转卷积神经网络框架中的 $E (2)$- 等变卷积，提出了转换特性表示描述特征空间变换法则的群表示。研究人员证明了这些约束可以通过使用不可约表示约简为任意群表示的约束，并通过实现一系列先前提出的和全新的等变网络架构进行了广泛比较，表明当用作非等变卷积的替代品时，在 CIFAR-10、CIFAR-100 和 STL-10 上使用 $E (2)$- 可旋转卷积可以取得显著的改进。

    Nov, 2019

  • 可控卷积神经网络的隐式神经卷积核

    使用 MLP 来参数化 G - 可操作的卷积核，提出了一种简单灵活的 Steerable CNNs 框架，可推广到任何可建立 G - 等变 MLP 的群组 G。在点云（ModelNet-40）和分子数据（QM9）上应用我们的方法，与标准的 Steerable CNNs 相比，性能有显著提高。

    Dec, 2022

  • 尺度等变可转移网络

    介绍了一种使用可控滤波器建立尺度等变卷积网络的通用理论，并将其他常见块推广为尺度等变块，此方法具有计算效率和数值稳定性，同时在 MNIST-scale 数据集和 STL-10 数据集中实现了领先水平的分类结果。

    Oct, 2019

  • 群等变卷积网络

    介绍了一种新型卷积神经网络，称为 Group equivariant Convolutional Neural Networks (G-CNNs)，它通过利用对称性降低样本复杂度，使用新型层 G-convolutions，增加网络的表达能力，且易于使用和实现。 G-CNNs 在 CIFAR10 和旋转的 MNIST 上实现了最先进的结果。

    Feb, 2016

  • 概率对称和不变神经网络

    本研究从概率对称性的角度考虑群不变性，建立功能性和概率对称性之间的联系，并得到了不变或等变于紧致群作用下的概率分布的生成功能表示。此表示完全表征了神经网络的结构，可用于模拟此类分布并提供了一般性的计算程序。

    Jan, 2019