变形鲁棒的旋转-缩放-平移等变卷积神经网络
本文介绍了四种可以插入神经网络模型中的操作,并将它们组合起来使这些模型具有部分对称旋转性,并且使得神经网络可以在不同方向共享参数,从而达到更好的性能和模型尺寸。
Feb, 2016
介绍了一种新型卷积神经网络,称为Group equivariant Convolutional Neural Networks (G-CNNs),它通过利用对称性降低样本复杂度,使用新型层G-convolutions,增加网络的表达能力,且易于使用和实现。 G-CNNs在CIFAR10和旋转的MNIST上实现了最先进的结果。
Feb, 2016
本研究提出了一种基于偏微分方程的框架,该框架可以将几何意义上的PDE系数作为网络层的可训练权重,从而在同一设计中具有内置的旋转和转化等几何对称性,并通过实验证明了该框架可以在深度学习图像应用中显著提高性能.
Jan, 2020
该研究提出将对称性引入卷积神经网络中,从而提高其在预测物理动态方面的准确性和泛化能力,该方法在实验和理论上都表现出了对分布转换的鲁棒性,并且在雷利-贝纳对流和真实世界的海洋表现上比传统方法更优秀。
Feb, 2020
该论文提出一种构建卷积层、使其对任何指定李群的变换具有等变性的通用方法,并展示了该方法在图像、分子数据和Hamiltonian系统等领域的应用。该方法特别适用于Hamiltonian系统,可以保持线性和角动量的精确守恒。
Feb, 2020
本文介绍一种使用群等变卷积神经网络来解决逆问题的学习重建方法,通过在迭代方法中建立群等变卷积神经网络解决拉伸同变的问题,实现了低剂量计算机断层成像重建和子采样磁共振成像重建的质量提升。
Feb, 2021
本研究论文探讨卷积神经网络在对称群中的应用,提出了群等变神经网络的概念和架构,以及使用多种层和滤波器的方法,为对称群的表示和胶囊的细节做出了数学分析。
Jan, 2023
提出了一种新颖方法 Variational Partial G-CNN (VP G-CNN),用于捕捉每个数据实例特定的不同水平的部分等变性。VP G-CNN重新设计了输出组元素的分布,以便在输入数据上进行条件设置,利用变分推断避免过拟合。此外,通过重新设计可重参数化分布,解决了离散群等变性模型中存在的训练不稳定性问题。在玩具数据集和实际数据集上(包括MNIST67-180、CIFAR10、ColorMNIST和Flowers102),结果表明VP G-CNN具有鲁棒的性能,即使在不确定性度量方面也是如此。
Jul, 2024
本研究解决了传统欧几里得深度学习无法有效处理复杂拓扑特征空间的问题,提出了基于对称群等变深度学习模型的新方法。这些模型在图形、三维形状和非欧几里得空间上实现了类似卷积的操作,揭示了其输入空间和表示之间的内在对称性,具有重要的理论和实践意义。
Sep, 2024