基于胶囊网络的层次化物体中心学习

May, 2024

基于胶囊网络的层次化物体中心学习

Hierarchical Object-Centric Learning with Capsule Networks

Riccardo Renzulli

TL;DR该论文研究了 CapsNets（胶囊网络）的吸引人之处，并聚焦于解锁其全部潜能的三个关键问题：路由算法的有效性、提取更有效的第一层胶囊、以及胶囊网络中的部分关系学习。此外，还展示了 CapsNets 在实际应用中的潜力，包括无人机的自主定位、合成数据集中的四元数旋转预测和生物医学成像中的肺结节分割。该论文的研究结果对于深入理解 CapsNets 并突破复杂的计算机视觉挑战具有重要意义。

Abstract

capsule networks (CapsNets) were introduced to address convolutional neural networks limitations, learning object-centric representations that are more robust, pose-aware, and interpretable. They organize neurons into groups called capsules, where each capsule encodes the instantiation

capsule networks routing algorithm primary capsules part-relationship learning real-world applications

发现论文，激发创造

学习与胶囊：一项调查

介绍了胶囊网络的基本概念和动机，以及它们在图像识别、视频、自然语言处理、医学成像等领域的广泛应用，探讨了胶囊网络研究中的主要障碍和未来研究的方向。

Jun, 2022

基于胶囊网络架构学习的表征特点研究

本文系统性地评估了 Capsule Networks 的可解释性，并分析了 MNIST、SVHN、PASCAL-part 和 CelebA 数据集中编码的表示是否真正将部分整体关系编码在学习表示中，结果表明 CapsNets 中的表示可能并没有像文献中常常表述的那样解耦并且严格相关于部分整体关系。

May, 2023

面向多标签分类的上下文感知胶囊网络

我们提出了一种改进的胶囊网络架构，包括新的路由权重初始化技术、利用条件随机场利用主要胶囊激活之间的语义关系的改进 CapsNet 设计和基于 Cholesky 变换的相关模块，为多标签分类任务提供了更好的可扩展性。

Oct, 2018

胶囊网络学习和学习数据表示

研究 CapsNet 的路由对模型拟合的影响，胶囊表征如何帮助发现数据分布中的全局结构以及学习的数据表征如何适应和推广到新任务。研究结果表明，路由操作决定胶囊向上图层传递信息的确定性，适当的确定性与模型适应度相关；在数据已知 2D 结构的实验中，胶囊表征比标准 CNN 中的神经元更有意义；与标准 CNN 的神经元相比，延续层的胶囊更适应新的数据分布。

Oct, 2018

高效的胶囊网络：具有自注意力路由的胶囊网络

本文探讨了胶囊网络的效率问题，使用仅拥有 160K 个参数且具有高度并行可处理路由的极端架构，证明了我们提出的架构仍能够在三个不同的数据集上取得最先进的结果，并成功地开发了一种新型的非迭代路由算法。实验证明了我们方法的有效性和胶囊网络嵌入更易于泛化的视觉表示的能力。

Jan, 2021

深层多原型胶囊网络

该研究论文提出了一种多原型架构，以指导胶囊网络表示图像部分的变化。通过使用多个胶囊（共组胶囊）捕获一个对象的多个原型，胶囊网络在图像分类准确性方面优于其他模型。

Apr, 2024

密集多样胶囊网络：让胶囊学习更好

该研究提出了两种改进型的 Capsule Networks，即 Dense Capsule Networks 和 Diverse Capsule Networks，以解决 CNNs 内在局限性，分别在标准数据集 MNIST，SVHN 和 CIFAR-10 上实验结果表明两种改进架构具有更好的性能和更少的训练迭代次数和参数数量。

May, 2018

推动胶囊网络的极限

Google Brain 提出了 Capsule Networks，它们通过使用向量输出来表示实体存在，与标量输出表示特征存在的常规 CNN 不同。我们的研究目的是测试 Capsule Networks 在不同的方法下的表现和表达性，包括测试 MNIST 数据集，探索 Capsule Networks 的内部嵌入空间和误差来源。

Mar, 2021

神经网络封装

本研究提出了一种新型的胶囊网络 EncapNet，采用两路分支的路由过程，同时引入了反馈协定来补偿临近层中信息的快速损失，该方法相较之前迭代和无监督的路由方案具有更快的计算速度和更好的性能表现，表现在 CIFAR10/100、SVHN 和 ImageNet 子集的图像分类问题上。

Aug, 2018

深度 Capsule 网络

DeepCaps 是一个使用三维卷积动态路由算法的深度胶囊网络架构，通过引入识别物理属性的类独立编码器网络，使用重构损失作为正则化项，实现在 CIFAR10，SVHN 和 Fashion MNIST 上胶囊网络领域最先进的结果，并减少 68％的参数。

Apr, 2019