基于可分离神经网络的梯度流相场建模
本文介绍了一种基于神经网络的机器学习方法,可以用于推断不同相的相图,通过获得从个体本征态中提取出来的纠缠谱。该方法在识别 MBL 相转变方面优于传统度量标准(如纠缠熵),从而揭示了更清晰的相边界和关于相图拓扑的新见解,这对于 MBL 相的发现具有参考价值。
Oct, 2017
本文使用改进物理知识约束神经网络(PINN)来解决 Allen-Cahn 和 Cahn-Hilliard 方程,并采用自适应的时间和空间采样策略来提高精度和效率,并且改进的 PINN 对于 PDEs 的显式形式没有任何限制,因此适用范围更广。
Jul, 2020
应用机器学习方法,将可解释的神经网络体系结构 SGNN 整合到 PINNs 框架中,以学习各种偏微分方程(PDEs)家族中的行波孤立波。SGNN 架构通过少于十分之一的神经元实现了可比较的准确性,突显其在解决复杂非线性 PDEs 中的效率和潜力。
Mar, 2024
我们提出了神经 Sinkhorn 梯度流(NSGF)模型,该模型使用神经网络来逼近底层 Wasserstein 梯度流的一部分,通过 Sinkhorn 分歧到目标分布的时间变化速度场的参数化,利用速度场匹配训练方案进行样本估计。理论分析表明,随着样本数量无限增加,经验估计的均场近似收敛于真实的底层速度场。为进一步提高模型在高维任务上的效率,我们设计了一个两阶段的 NSGF++ 模型,首先使用 Sinkhorn 流快速接近图像流形(≤5 次 NFE),然后沿着简单的直线流细化样本。通过合成和真实世界基准数据集的数值实验证明了我们的理论结果并证明了所提出方法的有效性。
Jan, 2024
该研究提出了一种新的基于深度学习的神经 Galerkin 方法,用于数值求解高维偏微分方程。该方法可以自适应地采集新的训练数据,以实现在高维空间中训练深度神经网络,从而成功地模拟了许多变量的系统中的波动和相互作用。
Mar, 2022
通过研究定义在无限维函数类上的极小极大优化问题,我们限定函数在过度参数化的两层神经网络类上,并研究(i)梯度下降 - 上升算法的收敛性和(ii)神经网络的表示学习。
Apr, 2024
本文探讨利用随机梯度下降学习两层神经网络,将神经网络权重的演化近似为概率分布在 R^D 空间中的演化,从而得到概率分布的梯度流方程。我们分析了隐藏单元数量与数据规律性之间的相关性,扩展了此结果到无界激活函数的情况,将此结果应用到噪声随机梯度下降过程中,并展示了如何通过平均场分析特殊限制条件下的核岭回归。
Feb, 2019
本文介绍了一种变分重整化群方法,使用基于归一化流的深度生成模型。该模型通过变量变换从物理空间到潜在空间进行分级,从而生成近似相互独立的潜在变量,同时具有精确和可处理的似然度。本研究展示了该方法在 Ising 模型中的互相独立的集体变量识别和混合蒙特卡罗抽样的实际应用,并讨论了该方法与重整化群的小波分析和信息保存 RG 的联系。
Feb, 2018