从高维常微分方程中重构网络
提出了一种基于惩罚最大似然的一般方法来估计带噪声的微分方程组的参数,并使用再生核希尔伯特空间方法来将估计问题形式化为易于解决的无约束数值最大化问题,并用合成的数据测试了所提出的方法,并使用基因表达数据估计未观察到的转录因子 CdaR 在 Steptomyes coelicolor 中的作用。
Nov, 2013
使用神经网络和偏微分方程提取动态数据中的模型,参数化模型来结合空时样本相关性,在 MNIST 和 Fashion MNIST 上与其他深度神经网络进行了比较,证明本方法能够降低参数成本。
Aug, 2019
提出一种新型深度神经网络模型 —— 连续深度模型,其采用了一个神经网络来参数化隐藏状态的导数,并利用黑箱微分方程求解器计算网络输出,使其具有内存成本不变、能够为每个输入自适应地选择评估策略并能显式进行精度 / 速度权衡等特点。研究者进一步证明了通过此模型可以构造出连续正则化流模型,能够通过最大似然进行训练,而不需要对数据维度进行分区或排序,并展示了如何在较大模型内部向任何 ODE 求解器进行可扩展地反向传播,从而实现 ODE 的端到端训练。
Jun, 2018
采用混合神经 ODE 结构结合符号回归来学习部分观测动力系统的控制方程,通过两个案例研究验证该方法成功地学习了这些系统中未观测状态的真实控制方程,并对测量噪声具有鲁棒性。
Apr, 2024
该篇论文研究了使用线性模型描述随机动态的网络 (有向图) 的学习问题,并证明了在较高采样率的情况下,利用 $\ell_1$- 正则化最小二乘算法可以高效地推断出稀疏网络结构。
Nov, 2010
研究提出了一种基于高斯过程矢量场的非参数 ODE 建模方法,可以不需要先验知识学习任意连续时间系统的基本动力学,并利用稀疏数据推断系统的未来动态和进行模拟。
Mar, 2018
本研究探讨使用神经常微分方程作为一种传播基于简化模型的潜在空间动力学的方法,并与两种传统的非侵入性方法进行比较,发现神经常微分方程提供了一个稳定和准确的演化潜在空间动力学的框架,但为了促进其广泛应用于大型系统,需要加速其训练时间。
Apr, 2021