基于加权核密度估计的快速动态路由
该研究提出了一种改进的胶囊网络模型,通过使用动态路由提取中间特征来提高计算速度和精度,同时使用等变特征胶囊替代类特定胶囊以提高网络泛化能力。
Jul, 2019
本文从 Capsules 和 neurons 的角度出发,探讨了用长度和方向来表示实体的存在概率和实例化参数的方法,并引入了迭代路由一致性机制,设计了一个多层 Capsule 系统,在 MNIST 上表现优异。
Oct, 2017
本文探讨了胶囊网络的效率问题,使用仅拥有 160K 个参数且具有高度并行可处理路由的极端架构,证明了我们提出的架构仍能够在三个不同的数据集上取得最先进的结果,并成功地开发了一种新型的非迭代路由算法。实验证明了我们方法的有效性和胶囊网络嵌入更易于泛化的视觉表示的能力。
Jan, 2021
该论文提出了一种新的 Capsule Routing Algorithm,利用 Variational Bayes 拟合 Transforming Gaussians 的混合模型,实现了 Capsule VAE 的转换,并成功解决了 MLE based models 的一个固有弱点
May, 2019
本文介绍一种名为 SegCaps 的新型卷积 - 反卷积胶囊网络,扩展了胶囊网络的使用范围到目标分割任务,并表现出与其他基于 U-Net 的体系结构相比精度更高效率更高,同时参数空间减少了 95.4%。
Apr, 2018
我们在本文中介绍了一种新颖的非迭代路由机制,受可训练原型聚类的启发,旨在减少计算复杂性,提高性能效果,同时使用共享的胶囊子空间降低训练过程中的内存需求。通过在 Imagewoof 数据集上的测试结果表明,我们的方法相较当前最佳的非迭代胶囊网络表现出更好的结果,且能够处理计算上过于复杂的情况,从而进一步增强操作效率与性能,为胶囊网络在日益复杂的计算场景中的应用铺平了道路。
Jul, 2023
该研究引入了一种名为 “快捷路由” 的新型机制,它通过直接激活局部胶囊中的全局胶囊来解决计算效率问题,消除了中间层。同时,还探索了一种基于注意力机制和模糊系数的方法,以提高效率。在 Mnist、smallnorb 和 affNist 数据集上进行的实验证明了与 EM 路由相比,提出的基于模糊和注意力的路由方法能够将计算量分别减少了 1.42 倍和 2.5 倍,突显了它们在胶囊网络中的计算优势。这些发现对于高效准确的层次化模式表示模型的进一步发展具有重要意义。
Jul, 2023
研究 CapsNet 的路由对模型拟合的影响,胶囊表征如何帮助发现数据分布中的全局结构以及学习的数据表征如何适应和推广到新任务。研究结果表明,路由操作决定胶囊向上图层传递信息的确定性,适当的确定性与模型适应度相关;在数据已知 2D 结构的实验中,胶囊表征比标准 CNN 中的神经元更有意义;与标准 CNN 的神经元相比,延续层的胶囊更适应新的数据分布。
Oct, 2018
本研究提出了一种基于胶囊网络和注意力机制的神经网络方法,用于关系提取的多实例多标签学习,实验结果表明该方法显著提高了关系提取的精度,尤其是多实体关系提取。
Dec, 2018
本文提出了 Attention Routing CapsuleNet(AR CapsNet)作为一种新的胶囊网络架构,使用注意力路由和胶囊激活来取代胶囊网络的动态路由和扁平激活函数,对 MNIST、affNIST 和 CIFAR-10 分类任务进行评估,结果显示该模型在准确率上具有明显优势,并具有变换等变性。
Jul, 2019