本文介绍了一种基于可平移、可旋转等变性的创新神经网络结构,采用可旋转滤波器和群卷积实现了对变换的兼容性,使用改进的权重初始化方案来提高准确率,在旋转 MNIST 基准测试和 ISBI 2012 2D EM 语义分割挑战中取得了良好表现。
Nov, 2017
本文介绍了可旋转卷积神经网络,这是一种高效灵活的等变卷积网络类,利用数学理论中给出的可旋转表示类型系统,我们实现了 CIFAR 图像分类基准上最先进的结果,并展示了如何构建有效利用参数的 CNN。
Dec, 2016
使用 MLP 来参数化 G - 可操作的卷积核,提出了一种简单灵活的 Steerable CNNs 框架,可推广到任何可建立 G - 等变 MLP 的群组 G。在点云(ModelNet-40)和分子数据(QM9)上应用我们的方法,与标准的 Steerable CNNs 相比,性能有显著提高。
Dec, 2022
介绍了一种使用可控滤波器建立尺度等变卷积网络的通用理论,并将其他常见块推广为尺度等变块,此方法具有计算效率和数值稳定性,同时在 MNIST-scale 数据集和 STL-10 数据集中实现了领先水平的分类结果。
Oct, 2019
在这项工作中,我们介绍了可转向 Transformer,这是 Vision Transformer 机制的一种扩展,它对特殊欧几里得群 SE (d) 保持等变性。我们提出了一种等变的注意机制,它在可转向卷积提取的特征上运作。在傅里叶空间中操作,我们的网络利用了傅里叶空间的非线性性。我们在二维和三维中的实验证明,将可转向 Transformer 编码器层添加到可转向卷积网络中可以提高性能。
May, 2024
本文提出一种基于尺度可控滤波器的局部缩放不变 CNN 模型,通过将 CNN 模型中的卷积核换成尺度可控滤波器,能够显著提高 MNIST-Scale 和 FMNIST-Scale 数据集的性能,具备对全局仿射变换方法(如空间变换器)的有效推广能力。
Jun, 2019
本研究论文探讨卷积神经网络在对称群中的应用,提出了群等变神经网络的概念和架构,以及使用多种层和滤波器的方法,为对称群的表示和胶囊的细节做出了数学分析。
Jan, 2023
该研究描述了在可旋转卷积神经网络框架中的 $E (2)$- 等变卷积,提出了转换特性表示描述特征空间变换法则的群表示。研究人员证明了这些约束可以通过使用不可约表示约简为任意群表示的约束,并通过实现一系列先前提出的和全新的等变网络架构进行了广泛比较,表明当用作非等变卷积的替代品时,在 CIFAR-10、CIFAR-100 和 STL-10 上使用 $E (2)$- 可旋转卷积可以取得显著的改进。
Nov, 2019
本文研究了转化群、深度卷积网络的不变性特性及其对稳定性的影响,进一步探讨了网络架构和可训练滤波器系数等因素与不变性群的关系,提供了更加抽象、强大不变性表示的实现方式。
Jan, 2013
通过在卷积神经网络中应用旋转等变性,本文提出了 DSF-CNN 模型,它使用群卷积在密集连接结构中使用多个旋转拷贝作为每个过滤器的线性组合,以减少可训练参数的数量,并在肿瘤分类、细胞核分割以及多组织核分割等三个计算病理学任务中实现了最先进的性能表现。
Apr, 2020