本文介绍了基于延迟微分方程（DDEs）的一种新型模型延迟微分神经网络（DDNN），其包括两种不同的架构。通过提供一种内存高效的方法计算梯度并反向传播至网络中，DDNN显著减少了一些最近ResNet变体的参数数量并提高了图像分类数据集，例如Cifar10和Cifar100的效果。

Dec, 2020

该研究提出一种新的带延迟的连续深度神经网络模型——神经延迟微分方程（NDDEs），使用伴随灵敏度方法计算相应的梯度，并通过多个案例证明其在模拟复杂模型和实际图像数据集方面具有较优的表现，这表明将动态系统因素引入网络设计有助于提高网络性能。

Feb, 2021

介绍了一种新型的连续深度神经网络，名为“神经分段常数时滞微分方程”，其中利用了信息多点的贡献，提高了模型的能力，并在 MNIST、CIFAR10 和 SVHN 等真实数据集上优于多种现有的连续深度神经网络框架。

Jan, 2022

神经微分方程是深度学习和动力系统相结合的一个研究领域，可用于解决生成式问题、动力系统和时间序列。本文提供了这个领域的深入调查，并涵盖了神经微分方程的多种类型及其相关的数值方法和符号回归。

Feb, 2022

本文介绍了一种基于延迟微分方程（DDE）的连续时间神经网络方法，使用伴随灵敏度方法从数据中直接学习模型参数和延迟。该方法可以学习 DDE 参数，表现出良好的敏感性分析能力，并涉及到机器学习、动力系统学和神经网络等领域。

Apr, 2023

本文介绍了一种名为Neural Delay Differential Equations（NDDE）的连续深度神经网络，使用输入的延迟动态学方程计算相应的梯度，并用数个实际案例展示了NDDE比传统模型具有更强的非线性表达能力和性能表现的优势。

Apr, 2023

本论文在神经延迟微分方程（Neural DDE）的基础上，提出了一种新的神经状态依赖延迟微分方程（SDDDE）的框架，该方法能更好地适用于包含多个状态依赖延迟的复杂系统，并在多种延迟动态系统的数据上显示了较高的性能。

Jun, 2023

本文提出了神经分数阶微分方程（Neural FDE），一个新颖的深度神经网络结构，通过调整微分方程来适应数据的动态，从而在具有记忆或依赖于过去状态的系统建模中可能优于神经常微分方程（Neural ODE），并且可以有效地应用于学习更复杂的动力系统。

Mar, 2024

提出了一种基于反向差分深度学习的新型算法，用于解决高维非线性反向随机微分方程问题，并通过Malliavin微积分将问题重构为差分深度学习问题，并使用Euler-Maruyama方法对积分进行离散化，通过优化损失函数来对DNN参数进行反向优化，在理论和实验上证明了该算法的高效性。

Apr, 2024

DDE-Find是一个数据驱动的框架，通过使用基于伴随法的方法来高效计算损失函数相对于模型参数的梯度，实现了从嘈杂且有限数据中学习DDE的首个完整框架。

May, 2024