Jul, 2023

ProtoCaps: 一种快速、非迭代的胶囊神经网络路由方法

PDF
TL;DR我们在本文中介绍了一种新颖的非迭代路由机制，受可训练原型聚类的启发，旨在减少计算复杂性，提高性能效果，同时使用共享的胶囊子空间降低训练过程中的内存需求。通过在 Imagewoof 数据集上的测试结果表明，我们的方法相较当前最佳的非迭代胶囊网络表现出更好的结果，且能够处理计算上过于复杂的情况，从而进一步增强操作效率与性能，为胶囊网络在日益复杂的计算场景中的应用铺平了道路。
capsule networksdeep learning architecturesrouting mechanismprototype clusteringcomputational efficiency
发现论文，激发创造
  • 高效的胶囊网络：具有自注意力路由的胶囊网络

    本文探讨了胶囊网络的效率问题，使用仅拥有 160K 个参数且具有高度并行可处理路由的极端架构，证明了我们提出的架构仍能够在三个不同的数据集上取得最先进的结果，并成功地开发了一种新型的非迭代路由算法。实验证明了我们方法的有效性和胶囊网络嵌入更易于泛化的视觉表示的能力。

    Jan, 2021

  • 深度 Capsule 网络

    DeepCaps 是一个使用三维卷积动态路由算法的深度胶囊网络架构，通过引入识别物理属性的类独立编码器网络，使用重构损失作为正则化项，实现在 CIFAR10，SVHN 和 Fashion MNIST 上胶囊网络领域最先进的结果，并减少 68％的参数。

    Apr, 2019

  • 具有可训练路由程序的广义胶囊网络

    本文提出了一种名为 G-CapsNet 的改进版 CapsNet 网络结构，将路由过程嵌入到卷积神经网络的优化过程中，使得耦合系数完全可训练，该网络在 MNIST 数据集上取得了类似于原论文中的性能，并测试了堆叠多个胶囊层的可能性。

    Aug, 2018

  • 基于胶囊网络的层次化物体中心学习

    该论文研究了 CapsNets（胶囊网络）的吸引人之处，并聚焦于解锁其全部潜能的三个关键问题：路由算法的有效性、提取更有效的第一层胶囊、以及胶囊网络中的部分关系学习。此外，还展示了 CapsNets 在实际应用中的潜力，包括无人机的自主定位、合成数据集中的四元数旋转预测和生物医学成像中的肺结节分割。该论文的研究结果对于深入理解 CapsNets 并突破复杂的计算机视觉挑战具有重要意义。

    May, 2024

  • 使用动态路由提取中间特征以开发可扩展胶囊网络

    该研究提出了一种改进的胶囊网络模型，通过使用动态路由提取中间特征来提高计算速度和精度，同时使用等变特征胶囊替代类特定胶囊以提高网络泛化能力。

    Jul, 2019

  • 神经网络封装

    本研究提出了一种新型的胶囊网络 EncapNet，采用两路分支的路由过程，同时引入了反馈协定来补偿临近层中信息的快速损失，该方法相较之前迭代和无监督的路由方案具有更快的计算速度和更好的性能表现，表现在 CIFAR10/100、SVHN 和 ImageNet 子集的图像分类问题上。

    Aug, 2018

  • 具有快捷路由的胶囊网络

    该研究引入了一种名为 “快捷路由” 的新型机制，它通过直接激活局部胶囊中的全局胶囊来解决计算效率问题，消除了中间层。同时，还探索了一种基于注意力机制和模糊系数的方法，以提高效率。在 Mnist、smallnorb 和 affNist 数据集上进行的实验证明了与 EM 路由相比，提出的基于模糊和注意力的路由方法能够将计算量分别减少了 1.42 倍和 2.5 倍，突显了它们在胶囊网络中的计算优势。这些发现对于高效准确的层次化模式表示模型的进一步发展具有重要意义。

    Jul, 2023

  • 学习与胶囊：一项调查

    介绍了胶囊网络的基本概念和动机，以及它们在图像识别、视频、自然语言处理、医学成像等领域的广泛应用，探讨了胶囊网络研究中的主要障碍和未来研究的方向。

    Jun, 2022

  • 深层多原型胶囊网络

    该研究论文提出了一种多原型架构，以指导胶囊网络表示图像部分的变化。通过使用多个胶囊（共组胶囊）捕获一个对象的多个原型，胶囊网络在图像分类准确性方面优于其他模型。

    Apr, 2024

  • 基于加权核密度估计的快速动态路由

    通过优化胶囊网络中的动态路由方法，提高路由效率，以实现与其他领先方法相媲美的性能表现。

    May, 2018