本文基于学习两层之间胶囊之间部分整体关系的低效性,并采用将每层的每种胶囊类型的姿态变化流形进行可训练、对称函数进行编码的胶囊网络框架,证明了该模型具有组合表示的等变性和增强的变换鲁棒性
Aug, 2019
本研究论文探讨卷积神经网络在对称群中的应用,提出了群等变神经网络的概念和架构,以及使用多种层和滤波器的方法,为对称群的表示和胶囊的细节做出了数学分析。
Jan, 2023
本文介绍了一种使用李群上的卷积(group convolutions over Lie groups)来实现任何形变的不变性的严谨数学框架,经实验证明在具有仿射不变性的分类任务中,我们的方法比传统 CNN 提高了 30%的准确性,同时优于大多数 CapsNets。
Nov, 2021
提出一种能够处理点云的三维胶囊模块,它对于三维旋转和移动具有等变性,并且对于输入点的排列具有不变性;该模块通过四元数上的新颖动态路由过程来建立端到端的变换等变性;此外,作者在理论上将胶囊之间的动态路由与欧几里德旋转平均算法相连接,通过此连接,证明了这种路由方式能够被解释为对胶囊投票进行鲁棒的旋转平均,进而在大型数据集上进行了实验验证。
Dec, 2019
本文介绍了群等变神经网络及其在机器学习中的应用及理论,其中包括群表示理论、非交换调和分析和微分几何等内容,研究结果表明这些网络可以降低样本和模型的复杂性,在输入具有任意相对角度的挑战性任务中表现出色。
Apr, 2020
通过使用 Capsule Networks (CapsNets) 构建不变 - 等变自监督架构,提出了 CapsIE (Capsule Invariant Equivariant Network) 的目标函数,以提高等变任务的下游性能,具有更高的效率和更少的网络参数。在 3DIEBench 数据集上,CapsNets 能学习出复杂且普遍化的表示,相比之前的 CapsNet 基准数据,达到最先进的性能,超越了监督模型的性能表现。
May, 2024
提出了一种基于视觉注意力机制的等变卷积方法 AGECN,解决了对称模式下位置和姿态关系不明确的问题,实现了对图像数据集的高效表征。
Feb, 2020
该论文提出了一种新的 Capsule Routing Algorithm,利用 Variational Bayes 拟合 Transforming Gaussians 的混合模型,实现了 Capsule VAE 的转换,并成功解决了 MLE based models 的一个固有弱点
May, 2019
介绍了胶囊网络的基本概念和动机,以及它们在图像识别、视频、自然语言处理、医学成像等领域的广泛应用,探讨了胶囊网络研究中的主要障碍和未来研究的方向。
Jun, 2022
本文提出了一种具有置换不变性和数据空间变换等变性的元学习方法 EQuivCNP,其建立在数据集的置换不变性与常规条件神经过程(CNPs)相同,且具有转换等变性;结合群等变性提供了考虑现实世界中的数据对称性的方式,并使用李群卷积层构建体系结构进行实际实现,EquivCNP 在具有等变性的情况下能够实现零样本泛化。
Feb, 2021