- G-RepsNet: 任意矩阵群等变网络的快速通用构建
使用张量多项式表示特征的轻量级等变网络 G-RepsNet 是一种有效的深度学习方法,其在组等变性和各种任务上表现出竞争力,包括图像分类、N 体预测和 PDE 求解。
- H-NeXt: 迈向旋转平移不变网络的下一步
H-NeXt 是一种参数高效的旋转平移不变网络,由包括等变主干、不变池化层和分类层的三个组件组成,可在没有增广图像的训练集上优于当前 MNIST 和 CIFAR-10 分类方面的最新研究成果。
- 高效的模型不可知多组等变网络
提供了对构建特定于模型的群不变网络的有效设计,包括 IS 层,用于满足对称不变性约束,并给出了两个相关问题的解决方案,并通过实验证明其具有竞争力。
- 大型预训练模型的等变适应
通过使用规范化网络和数据相关的先验知识,可以使大型预训练模型实现等变性,提高计算效率并增强对数据旋转等确定性变换的鲁棒性。
- 用于高效和高性能医学图像处理的等变球面 CNN
本研究探讨了等变网络在断层扫描成像应用中的重要性,通过解决卷积神经网络在医学成像系统后处理中的局限性,引入了一种能够减少对特定训练集依赖的等变网络,并验证了球面信号上球面卷积神经网络 (SCNNs) 在去噪和重建基准问题中的优越质量和计算效 - AAAI面向自动驾驶的具有变换对称性的三维物体检测
在自动驾驶领域,应用 TED 模型能够高效地检测汽车等 3D 物体。TED 利用稀疏卷积提取多通道等变体素特征,使得其在处理大量数据时仍然能快速的检测物体。同时,在 KITTI 竞赛的排名上表现十分出众,达到全球第一。
- MM打破对称性:解决等变神经网络中的对称歧义
本文研究了等变网络在处理对称任务时的歧义性,并提出了解决方法:通过添加组件解决对称歧义问题并使其在处理平面对称性输入时具有旋转等变性,提出了一种称为 OAVNN 的向量神经元网络,通过左右分割任务对其进行了评估,发现网络能快速准确地完成分割 - ICLR证明等变强幸运票假设的一般框架
本文将 Strong Lottery Ticket Hypothesis(SLTH)推广至可保持群作用的网络,即 G-equivariant network, 并证明可以通过对随机初始化的过参数化 G-equivariant network - 分子构象的生成式粗粒化
本文提出了基于生成模型和等变网络的新方法,以恢复从粗粒度表示到原子层面的原子精确位置信息,并在分子动力学轨迹上进行了三个综合评估,结果表明,与现有数据驱动的方法相比,我们的方法始终能够以显着优势恢复更真实的结构。
- 李代数卷积网络自动对称性发现
在物理科学中,利用李代数卷积网络(L-conv)可以发现物理学和对称性之间的直接联系,并且 L-conv 可以作为构建任何等变前馈结构的构建模块。
- 几何深度学习的发生率网络
本文正式定义了关联张量,分析了它们的结构,并提出了能够操作它们的等变网络家族。我们证明了任何关联张量都可以分解成不变子集,这导致了对应的等变线性映射的分解,我们证明了一种高效的池化和广播实现。
- 普适不变与等变图神经网络
本文研究了一类具有单隐藏层的不变和等变网络,并证明了其新的普适性定理。首先,本文提出了一种以代数理论为基础的证明方式。其次,本文将这一结果扩展到等变网络中,该领域的理论研究相对较少。最后,本文的结果表明,相同的参数可以在具有不同规模的图上近 - ICML等变规范卷积网络和二十面体 CNN
本研究提出了一种基于变换对称性等效性原则的神经网络架构设计方法,并将此原则扩展至局部规范变换领域,以实现在流形上的卷积神经网络,提高了全景图像与全球气候图案分割等任务的性能。
- ICLR不变和等变图网络
本文提供了对(超)图数据的所有置换不变和等变线性层的表征,并展示了它们的维度,并计算出这些层的正交基,包括对多图数据的推广。同时,在简单的深度神经网络框架中应用这些新的线性层,可以获得比之前的不变性和等变性基础更好的表现,并且可以实现任何消