任意Lie群的等变性能实现
本文研究了转化群、深度卷积网络的不变性特性及其对稳定性的影响,进一步探讨了网络架构和可训练滤波器系数等因素与不变性群的关系,提供了更加抽象、强大不变性表示的实现方式。
Jan, 2013
我们提出了一种基于群等变胶囊网络的框架,通过引入路由协议算法,实现了保证等变性和不变性的性质,在与群卷积网络相连的同时,提供了一种深度神经网络架构,可控制特定的等变性和不变性属性,并提供可解释和完全等变的表示向量作为输出胶囊。
Jun, 2018
该论文提出一种构建卷积层、使其对任何指定李群的变换具有等变性的通用方法,并展示了该方法在图像、分子数据和Hamiltonian系统等领域的应用。该方法特别适用于Hamiltonian系统,可以保持线性和角动量的精确守恒。
Feb, 2020
该研究提出了一种基于耦合群卷积的旋转、缩放和平移等变卷积神经网络 RST-CNN,该网络通过稳定性分析可证明具有变形鲁棒性,能在旋转、缩放和平移等输入畸变的情况下保持等变性,从而在 MNIST、Fashion-MNIST 和 STL-10 数据集上实现了显著提升。
Nov, 2021
本研究论文探讨卷积神经网络在对称群中的应用,提出了群等变神经网络的概念和架构,以及使用多种层和滤波器的方法,为对称群的表示和胶囊的细节做出了数学分析。
Jan, 2023
该研究提出了一种Lie群-CNN模型,利用群卷积模块的全连接网络和Lie-代数实现了尺度旋转等变性,进而成功地从图像中提取几何特征并实现了对图像的等变识别。
Jun, 2023
使用李群和李代数的结构与几何学,提出了一个框架,用来在大多数情况下处理几何变换的不规则群,重点关注李群 GL+(n, R) 和 SL(n, R),以及它们作为仿射变换的表示。通过将`较大的`群分解为子群和子流形来实现不变积分和全局参数化。在这个框架下,我们展示了如何参数化卷积核来构建关于仿射变换等变的模型,并在标准的仿射不变基准分类任务上评估了我们模型的鲁棒性和越域泛化能力,结果表明我们的模型优于所有先前的等变模型以及所有胶囊网络提议。
Oct, 2023
本研究探讨连续域卷积神经网络中的仿射不变性,并引入一种新准则评估仿射变换下两个输入信号的相似性。通过分析抬升信号的卷积并计算相应的广义线性群 $G_2$ 上的积分,与解决复杂优化问题的传统方法不同,本研究为实际深度学习流程处理几何变换的范围提供了扩展。
Nov, 2023
本研究解决了传统欧几里得深度学习无法有效处理复杂拓扑特征空间的问题,提出了基于对称群等变深度学习模型的新方法。这些模型在图形、三维形状和非欧几里得空间上实现了类似卷积的操作,揭示了其输入空间和表示之间的内在对称性,具有重要的理论和实践意义。
Sep, 2024