关键词equivariant neural networks
搜索结果 - 26
- 等变离线强化学习
通过使用有限数量的演示,本研究探讨了在离线强化学习中使用 $SO (2)$- 等变神经网络的可能性,并通过实验证明了等变性如何提高低数据情况下的离线学习算法。
- 等变神经网络的分离能力
我们提出了一个理论框架来研究具有点逐元激活的等变神经网络的分离能力,我们能够推导出一族神经网络对于给定架构的输入无法区分的显式描述,证明其不受所采用的非多项式激活函数选择的影响,我们证明了激活函数在可分性中的作用,所有非多项式激活函数,如 - 数据缺乏科学应用的不变多尺度神经网络
机器学习在现代世界的成功主要取决于数据的丰富性。然而,在许多工业和科学问题中,数据量有限。通过具有对称性知识的等变神经网络,可以更有效地将机器学习方法应用于数据稀缺的科学问题,其中,我们建议结合具有对称性意识的不变体架构和扩张卷积堆栈是一种 - 等变神经切向核
本文首次将等变神经网络和神经切向核相结合,给出了群卷积神经网络的神经切向核的显式表达式,并在医学图像分类任务上通过数值实验证明了等变神经切向核的优越性能。
- 使用等变晶格神经网络提升流体动力学中的晶格动力方案
我们提出了一种新的等变神经网络类,即栅格等变神经网络(LENNs),旨在满足栅格结构的局部对称性。
- 自动驾驶的开创性 SE (2) 等变轨迹规划
我们提出了一种轻量级的等变规划模型,它在生成所有车辆的多模态联合预测并选择一个模态作为自主计划时,结合了运动预测和轨迹规划。通过嵌入车辆位置并在潜在空间中沿着高级路线指导自主车辆,我们的方法提供了具有目标导向行为的等变规划,同时在保持等变性 - 基于相似度核的零射新型分子生成
通过分析得分模型,本研究发现生成分子过程中的得分模型在起始时类似恢复势能,在最后则类似量子力学力,两者之间表现出特殊性质以便生成较大的分子。基于训练出的模型,本研究提出了一种新的零样本分子生成方法 —— 基于相似性的分子生成(SiMGen) - ICML等变对称性破缺集
我们提出了一种全等变性的新颖对称性破缺框架,通过将一组对称性破缺对象输入网络来实现,最小化这些集合的大小等效于数据效率。我们证明了最小化这些集合相当于一个被广泛研究的群论问题,并提供了对点群问题的解决方案,通过一些破对称性的示例来展示我们的 - 解释等变表示
在这篇论文中,我们展示了在使用潜在表示时应考虑的等变模型对归纳偏好的作用,并表明不考虑归纳偏好会导致下游任务的性能降低,相反,通过使用潜在表示的不变投影来有效地考虑归纳偏好,我们提出了选择这种投影的原则,并通过两个常见的例子展示了这些原则的 - ICLR通过 Gaunt 张量乘积实现傅里叶基中的高效等变运算
提出了一种用于建模现实世界应用中的 3D 数据的等变性神经网络的方法,其中重点在于计算不可约表示 (irreps) 的张量积计算的加速,通过数学上将其与高斯系数相连,从而可以通过 2D Fourier 基的卷积定理和快速傅立叶变换高效计算球 - ICLR具有点线激活的等变网络的表征定理
等变神经网络在对称域上显示出了改进的性能、表现力和样本复杂度,但对于某些特定的对称性、表示和坐标选择,常见的逐点激活(如 ReLU)不能实现等变性,则无法用于等变神经网络的设计。本文中我们提出的定理描述了所有可能的有限维表示、坐标选择和逐点 - 关于对称性下的学习难度
通过梯度下降,我们研究了学习等变神经网络的问题。尽管已知的问题对称(“等变性”)被纳入神经网络中,经验上改善了从生物学到计算机视觉等领域的学习流程的性能,但是一项有关学习理论的研究表明,在相关统计查询模型(CSQ)中,实际学习浅层全连接(即 - EquiReact: 化学反应的等变神经网络
在化学反应的推理中,我们引入了一个基于三维结构的反应物和生成物构建的等变神经网络 EquiReact,展示了它在 GDB7-22-TS、Cyclo-23-TS 和 Proparg-21-TS 数据集的活化能预测中的竞争性能,对于原子映射信息 - $\mathbb {Z}_2\times \mathbb {Z}_2$ 量子神经网络:与经典神经网络的基准测试
该研究通过对比分析了等变量量子神经网络(EQNN)和量子神经网络(QNN)与它们的经典对应物等变量神经网络(ENN)和深度神经网络(DNN)的性能,在模型复杂度和训练数据集的大小方面,通过两个玩具示例的二分类任务对每个网络的性能进行了评估。 - 潜在空间对称性发现
提出了一种能够从数据中发现非线性对称性的新颖生成模型 LaLiGAN,该模型可以将数据映射到特征空间,其中对称性变得线性,并同时在特征空间中发现对称性,理论上表明在某些条件下可以表达任何非线性对称性。实验结果显示,该方法可以捕捉到高维观测中 - 任意维度等变神经网络
本文介绍了一种使用代数拓扑学中的表示稳定现象定义等变神经网络的方法,使得网络在固定维度上训练后能够接受任意维度的输入,并提供了简单的开源实现和初步的数值实验。
- Clifford 群等变神经网络
介绍了一种新的方法:Clifford Group Equivariant Neural Networks。从 Clifford 代数中识别和研究 Clifford group 子群,形成了一个直接在向量基础上运算、高效推广到任意维数的 Eq - 基于预训练模型的等变少样本学习
论文研究了利用预训练模型进行转移学习的方法,提出了一种用于解决等变性神经网络训练问题的只利用关键权重的算法,并在各种应用和模型上进行了验证。
- 旋转对称神经网络用于漫游磁体自旋动力学模拟
本论文提出了一种新颖的等变神经网络体系结构,用于 Kondo 晶格模型的大规模自旋动力学模拟,并应用于二维正方形和三角形晶格上的模型。该网络确保平移和自旋旋转等同,并且可以准确复现磁性相变,通过训练模型优于使用不变描述符的模型,并证明其在三 - MM带循环群结构的展开网络学习
本文介绍了一种利用等变神经网络显性地加入领域知识的框架,该框架基于稀疏编码,以旋转等变性为例。通过在(旋转)MNIST 和 CIFAR-10 上的表现,得出了具有稀疏激活的可解释性网络与基线网络相竞争的结论。