通过贝叶斯神经网络推断具有不确定性的 Langevin 方程
本文介绍了一种从具有 Langevin 方程描述的随机系统的噪声数据中提取漂移和扩散项,并确定动力学的确定性规律和波动力的方法,并通过对一维和二维噪声数据的模拟应用进行了验证。
Mar, 1998
使用稀疏贝叶斯方法从有限数据中学习可解释的物理系统的 Lagrangian 描述,自动进行 Hamiltonian 的蒸馏,提供观测系统的常微分方程 (ODE) 和偏微分方程 (PDE) 的描述。
Oct, 2023
透明物理分析推导了扩散模型中的涨落定理、熵产生、Franz-Parisi 势函数,从非平衡物理的角度理解了最近发现的内在相变现象,该统一原理预计将引导机器学习从业者设计更好的算法,也将把机器学习与非平衡热力学联系起来。
May, 2024
该研究针对噪声高维推理问题,通过对比 Langevin 算法和 AMP 算法的表现,发现 Langevin 算法的阈值不如 AMP 算法,并猜测这是由于该参数区域中存在残留玻璃态,最后还介绍了一种使用 Langevin 算法的景观退火协议,可以接近 AMP 的性能。
Dec, 2018
本文介绍了一种使用欧拉 - 马鲁雅马方法对扩散过程离散化,并应用变分推断方法共同学习参数和扩散路径的方法。这种方法使用平均场变分近似参数后验分布,并引入递归神经网络来近似参数条件下扩散路径的后验分布,所得结果可用于具有轻微调整需求的任何 SDE 系统,并在短短几个小时内产生准确的参数估计。
Feb, 2018
本文提出了一种基于物理启发式神经网络的深度学习框架,用于量化和传播受非线性微分方程支配的系统中的不确定性。通过建立概率表示,对系统状态进行训练以满足给定的物理定律表达式,并提供了一种有效训练深度生成模型作为物理系统的代理的规范化机制,在这些系统中,数据采集成本高,训练数据集通常较小。该框架提供了一种灵活的方式,用于因输入随机性或观测噪声而导致的物理系统输出不确定性的表征,完全绕过了重复采样昂贵的实验或数值模拟器的需求。作者通过一系列例子证明了方法的有效性,这些例子涉及非线性守恒定律中的不确定性传播以及直接从嘈杂的数据中发现流体通过多孔介质的本构规律。
Nov, 2018
本文讨论了如何通过整合贝叶斯学习框架来量化神经普通微分方程中权重的不确定性,并且展示了在 MNIST 数据集上使用 GPU 加速的 No-U-Turn MCMC 采样器、Stochastic Gradient Hamiltonian Monte Carlo 和 Stochastic Langevin Gradient Descent 等推理方法成功集成神经 ODE 的实验结果。然后,我们首次证明了变分推理与标准化流和神经 ODE 的成功整合,生成了强大的贝叶斯神经 ODE 对象。最后,我们演示了如何利用普适的常微分方程概率地识别部分描述的动力系统中的模型规范,从而为探索认识上的不确定性提供了科学的机器学习工具。
Dec, 2020
提出一种新的随机方法,基于 Langevin 动力学精确生成具有固定初始点和目标点的布朗运动路径,并配有概率权重,同时可以解决特定力作用下的情况,例如生成双井的限制路径。
Mar, 2015
从低分辨率时间数据推断动力学模型在生物物理学中仍然是一个重要的挑战,我们提出了一种方法,利用与潜在扩散过程相关的概率流来推断插值分布之间的自主的非线性力场,通过使用得分匹配来区分力场和固有噪声,我们的方法可以从非平稳数据中提取非守恒力,在应用于稳态数据时学习均衡动力学,无论是添加型噪声模型还是乘法型噪声模型。
Oct, 2023
本文提出了一种基于变分方法的非线性和抛物型偏微分方程潜在力模型的推断技术,并展示了神经算子方法在千万级实例上的可扩展性,以处理核函数的不同可处理程度,进一步表明我们框架的高效性和灵活性。
Sep, 2021