具有辛保持特性的深度神经网络
提出了一种新的神经网络架构 Nonseparable Symplectic Neural Networks (NSSNNs),可以从有限的观察数据中发现并嵌入非可分离 Hamiltonian 系统的辛结构,从而预测分离和非分离 Hamiltonian 系统,包括混沌漩涡流。
Oct, 2020
本文探讨了建立基于单纯复形数据的神经网络体系结构。通过定义三种理想属性,即排列等变性,定向等变性和单纯感知性,我们提出了一种简单的卷积架构,用于轨迹预测问题,并展示了它在合成和实际数据集上推广性的提高。
Feb, 2021
介绍了一种新的卷积神经网络 (CNN) 架构,通过一类偏微分方程 (PDE) 即准线性双曲系统的启发,性能与图像分类任务相媲美,允许通过连续的对称性修改权重,与传统模型不同,其网络架构和权重实质上是固定的。我们希望将 (内部) 对称性作为一种新的神经网络的理想属性,并在更广泛的深度学习社区中引起对 PDE 视角分析和解释 CNN 的关注。
Aug, 2023
本研究通过神经变换来学习哈密顿机械系统的对称性,需要新的网络体系结构来参数化辛变换,以维持哈密顿结构,并学习了可积模型的结构,这是神经变换适应一个受限于反演之外的家庭的典型示例。
Jun, 2019
本文通过应用 Hamilton 神经网络来学习和利用物理系统中保守量的对称约束,通过适当的损失函数来实现周期坐标的强制,从而在简单的经典动力学任务中实现了更高的准确性,进而拟合出网络中的隐向量的解析式,从中发现利用了保守量,如角动量。
Apr, 2021
提出一种有效且轻量级的学习算法 —— 辛泰勒神经网络(Taylor-nets),用于基于稀疏、短期观察进行连续、长期预测复杂的哈密顿动态系统。该算法基于一种新颖的神经网络架构,它包含两个嵌入对称 Taylor 级数展开形式术语的子网络,并将四阶辛普勒积分器与神经 ODE 框架相结合,以学习目标系统的连续时间演化,同时保持其辛结构。在较小的训练数据、短训练周期(预测周期的 6000 倍)的情况下,该模型表现出了独特的计算优点,具有较高的预测精度、收敛速度和鲁棒性。
May, 2020
使用物理上知悉的神经网络方法来分析含有一种运动第一积分的非线性哈密顿系统,并提出了一种结构,将现有的哈密顿神经网络结构与 Adaptable Symplectic 循环神经网络相结合,可以在整个参数空间内预测动力学,保留哈密顿方程以及相空间的辛结构。同时,利用神经网络的高维非线性能力,结合 Long Short Term Memory 网络进行判断嵌入定理的实现,构造系统的延迟嵌入,并将拓扑不变吸引子映射到真实形式。该方法对于单参数势能有效,并且即使在较长时间内也能提供准确的预测结果。
Jul, 2023
本篇论文介绍了一些基于保结构动力系统的创新图神经网络结构,其中证明了这些结构能够保能量或随深度逐渐产生正的耗散。这一理论框架为可解释的构建提供了可能,并在阐明了可逆性和不可逆性在网络性能中的作用的同时,帮助解释了当前网络架构中的理论离题。
May, 2023
利用深度学习中的多层感知器、卷积神经网络等算法,预测特征非厄米哈密顿量的本征值。使用高维电路数据特征构建非厄米拓扑舱数据,采用 DenseNet 算法来处理高维数据,有效地捕获训练数据中非厄米系统的全局拓扑特征。
Feb, 2024