DDE-Find: 从数据中学习延迟微分方程
本文介绍了一种基于延迟微分方程(DDE)的连续时间神经网络方法,使用伴随灵敏度方法从数据中直接学习模型参数和延迟。该方法可以学习 DDE 参数,表现出良好的敏感性分析能力,并涉及到机器学习、动力系统学和神经网络等领域。
Apr, 2023
本论文在神经延迟微分方程(Neural DDE)的基础上,提出了一种新的神经状态依赖延迟微分方程(SDDDE)的框架,该方法能更好地适用于包含多个状态依赖延迟的复杂系统,并在多种延迟动态系统的数据上显示了较高的性能。
Jun, 2023
该研究提出一种新的带延迟的连续深度神经网络模型 —— 神经延迟微分方程(NDDEs),使用伴随灵敏度方法计算相应的梯度,并通过多个案例证明其在模拟复杂模型和实际图像数据集方面具有较优的表现,这表明将动态系统因素引入网络设计有助于提高网络性能。
Feb, 2021
本文介绍了一种名为 Neural Delay Differential Equations(NDDE)的连续深度神经网络,使用输入的延迟动态学方程计算相应的梯度,并用数个实际案例展示了 NDDE 比传统模型具有更强的非线性表达能力和性能表现的优势。
Apr, 2023
本文介绍了基于延迟微分方程(DDEs)的一种新型模型延迟微分神经网络(DDNN),其包括两种不同的架构。通过提供一种内存高效的方法计算梯度并反向传播至网络中,DDNN 显著减少了一些最近 ResNet 变体的参数数量并提高了图像分类数据集,例如 Cifar10 和 Cifar100 的效果。
Dec, 2020
神经微分方程是深度学习和动力系统相结合的一个研究领域,可用于解决生成式问题、动力系统和时间序列。本文提供了这个领域的深入调查,并涵盖了神经微分方程的多种类型及其相关的数值方法和符号回归。
Feb, 2022
提出了一种机器学习框架,将时间依赖的 ODE 和 PDE 重新表示为人工神经网络,经过离线训练调整参数,通过数值实验展示了相比标准数值方法更高的计算效率。
Jul, 2018
本研究提出一种基于伴随方法的优化问题,用于从数据中发现潜在的偏微分方程,通过考虑参数化的偏微分方程形式,并最小化 PDE 解与数据之间的误差来计算 PDE 参数的梯度。该方法通过变分计算获取了保正参数的演化方程,可以精确地还原真实的 PDE,尽管在存在噪声的情况下,方法精确度与 PDE-FIND 方法相当。
Jan, 2024
本文提出了一种基于正则化的方法,该方法利用自适应微分方程求解器的内部代价启发式和离散相邻灵敏度来引导训练过程,以学习更易于求解的神经微分方程,并在不增加训练成本的情况下加速预测,该方法可应用于常微分方程和神经随机微分方程。
May, 2021
本文提出了神经分数阶微分方程(Neural FDE),一个新颖的深度神经网络结构,通过调整微分方程来适应数据的动态,从而在具有记忆或依赖于过去状态的系统建模中可能优于神经常微分方程(Neural ODE),并且可以有效地应用于学习更复杂的动力系统。
Mar, 2024