该研究提出一种新的带延迟的连续深度神经网络模型 —— 神经延迟微分方程(NDDEs),使用伴随灵敏度方法计算相应的梯度,并通过多个案例证明其在模拟复杂模型和实际图像数据集方面具有较优的表现,这表明将动态系统因素引入网络设计有助于提高网络性能。
Feb, 2021
神经常微分方程(NODEs)是基于常微分方程的深度学习中最具影响力的作品之一,它不断推广残差网络,并开创了一个新领域。本文提出了一种基于神经算子的方法来定义时间导数术语,称为分支傅里叶神经算子(BFNO),在各种下游任务中,我们的方法明显优于现有方法。
Dec, 2023
本研究提出了 PolyODE,一种基于正交多项式投影的神经常微分方程模型,用于学习动态系统,以实现长期记忆和整体表示,优于先前的模型在数据重建和下游预测任务中的性能。
Mar, 2023
提出了一种名为 GAINS 的分析框架,它结合了三个关键思想,基于变量但离散时间步的 ODE 解算器、求解器轨迹的高效图形表示和一种基于该图形表示的新颖抽象算法,可以有效分析高维 NODEs 和提供保证,并将运行时从指数级降至线性对数阶,通过在计算机视觉和时间序列预测问题上的大量评估,证明了该方法的有效性。
本文介绍了一种名为 Neural Delay Differential Equations(NDDE)的连续深度神经网络,使用输入的延迟动态学方程计算相应的梯度,并用数个实际案例展示了 NDDE 比传统模型具有更强的非线性表达能力和性能表现的优势。
Apr, 2023
从控制理论角度分析神经常微分方程(NODEs),研究其在数据分类和通用逼近等深度学习范式中的应用,提出了同时控制 NODE 系统的方法以及建立了深度神经网络和最优输运之间的联系。
Apr, 2021
本文提出通过直接建模解曲线流和神经网络,消除昂贵的数值解算器,提高神经 ODE 的建模能力,并提供几种适用于不同应用场景的流体结构,从而提高计算效率和一致性。应用于时间序列建模、预测和密度估计,取得了良好的泛化性能。
Oct, 2021
通过稀疏观测数据,我们引入了一种新的随机过程,称为神经常微分方程过程,用于学习连续网络动态,在各种领域中的网络动态具有优秀的数据适应性和计算效率,并可以适应新的网络动态,仅需要约 6% 的观测数据比例,并且显著提高了对新动态的学习速度。
Oct, 2023
本文研究了二阶神经常微分方程,提出了一种新的优化算法,并比较了此模型与增广模型在模拟物理系统时的性能。
Jun, 2020
该论文探讨神经常微分方程(NODEs)的自然鲁棒性,通过控制 ODE 动力学的 Lipschitz 常数可以显著提高神经网络的鲁棒性,证明 Grownwall 不等式可以被应用到深度学习中。同时验证了 NODEs 对噪声与对抗性攻击的鲁棒性,并实验了自适应和非自适应求解器对节点鲁棒性的影响。
May, 2023