如何从三分钟数据中学习和泛化:物理约束和不确定性感知的神经随机微分方程
本文提出了一种使用反向传播学习连续控制策略的统一框架,并通过将贝尔曼方程中的随机性视为外源噪声的确定性函数,来支持随机控制。结果是一系列从有值函数的无模型方法到无值函数的有模型方法的通用策略梯度算法谱。我们使用学习模型,但只需要来自环境的观察而不是模型预测轨迹的观察,最大程度地减少复合模型错误的影响。我们首先将这些算法应用于一个玩具随机控制问题,然后在模拟中将其应用于几个基于物理的控制问题。其中一种变体SVG(1)显示了在连续领域同时学习模型,价值函数和策略的有效性。
Oct, 2015
我们提出了一种基于随机动态系统视角的量化深度神经网络不确定性的新方法,即神经随机微分方程模型 (SDE-Net),并证明了其存在唯一解的性质,实验证明该模型在不确定性占据重要角色的一系列任务中优于现有的不确定性估计方法。
Aug, 2020
利用物理学基础知识作为先验知识,通过将物理学基础知识注入到神经网络结构中,从轨迹数据中学习动力学模型,并在模型的训练过程中通过增广拉格朗日法强制实施物理学知识约束,实验证明该做法比不包括先验知识的基线方法在相同的训练数据集上能够将系统动力学预测准确率提升两个数量级。
Sep, 2021
本研究提出一种利用混沌和数学优化的训练算法,可有效解决NeuralODEs实际应用中训练时间长,效果不佳的问题。与传统训练方法相比,该算法在不更改模型架构的情况下,可大幅降低误差值,并能够准确地捕捉真实的长期行为并正确地向未来外推。
Oct, 2022
介绍了通过组合神经网络来学习交互子系统的复合模型的方法及理论依据,并使用 PHNN 来表示系统及其各个子系统,通过物理信息互连结构组合 PHNN 以预测复合系统的动力学行为。
Dec, 2022
对于展现时空动态响应的系统的演化进行预测是促进科学创新的关键技术,传统基于方程的方法需要大规模并行计算平台和大量的计算成本。相比之下,我们提出了一种名为Latent Dynamics Network的新型架构,该架构使用降维和深度学习算法来描述系统演化的低维潜在空间,从而预测空间依赖场对外部输入的时间演化,并在几个测试案例上验证了该方法的高效性和精确性。
Apr, 2023
本研究使用贝叶斯深度学习技术将轻量级机器学习方法应用于神经常微分方程以获得结构化和有意义的不确定性量化,研究了机械知识和不确定性量化在两种神经常微分方程框架下的相互作用-辛神经常微分方程和神经常微分方程物理模型的补充,证明了方法在低维 ODE 问题和高维偏微分方程上的有效性。
May, 2023
我们提出了一种主动学习算法,通过将先验领域知识明确纳入采样过程,利用副信息来学习动态。通过数值实验,我们证明了该策略探索了高差异区域,加速了学习过程同时降低了模型不确定性。我们还通过提供最大预测方差的收敛速度的明确速率,严格证明了我们的主动学习算法给出了底层动态的一致估计。我们在一个欠驱动的摆系统和半猎豹 MuJoCo 环境上展示了我们方法的有效性。
Mar, 2024
本研究提出了一种无训练的条件扩散模型,用于通过数据学习未知的随机微分方程(SDE)。该方法通过利用基于分数的扩散模型来逼近其随机流映射,成功解决了建模SDE的计算效率和准确性问题。数值实验表明,该方法在预测未知随机系统的短期和长期行为方面显著优于传统方法,如GAN。
Oct, 2024
本研究解决了现有方法在处理复杂非线性动态系统时的局限性,尤其是在控制、预测和优化等应用领域。我们提出了一种新方法,能够高效估计多维非线性受控随机微分方程的漂移和扩散系数,并提供了强有力的理论保证和实际有效性,极大地推动了该领域的研究进展。
Nov, 2024