- SIGIRReCODE:用神经 ODE 模型重复消费行为
利用神经 ODE 模型再现用户在实际推荐系统中的重复消费行为,以捕捉时间间隔的动态模式,并结合静态偏好预测模块,对用户在特定情境下的个性化偏好进行综合建模。实验证明,该模型明显提高基准模型的性能,并优于其他对比方法。
- 神经分数阶微分方程
本文提出了神经分数阶微分方程(Neural FDE),一个新颖的深度神经网络结构,通过调整微分方程来适应数据的动态,从而在具有记忆或依赖于过去状态的系统建模中可能优于神经常微分方程(Neural ODE),并且可以有效地应用于学习更复杂的动 - 使用自动编码器和神经常微分方程加速天体化学反应网络
该篇论文介绍了一种基于机器学习的解决方案,使用自编码器进行降维,并利用潜空间神经 ODE 求解器加速宇宙化学反应网络计算。同时,提出了一种成本效益高的线性潜空间函数求解器作为神经 ODE 的替代方法。实验结果表明,神经 ODE 相比基准模型 - 无人机群的深度学习方法非线性系统辨识
该研究设计和评估多种非线性系统识别技术,用于建模平面空间中的无人机群系统。研究探索并比较了 RNNs、CNNs 和神经 ODE 等学习方法。其目标是通过准确逼近群体模型的非线性动力学,预测未来的群体轨迹。建模过程使用了来自群模拟的瞬态和稳态 - 关于神经抽象的效率与精确性之间的权衡
神经抽象是复杂的非线性动力模型的形式近似,通过神经 ODE 和抽象神经网络与具体动力模型之间的误差的保证上界来表示。本文通过形式归纳合成过程生成动力学模型,并讨论复杂神经 ODE 的抽象以提高可达性分析的效率。
- 利用潜变量 ODE-LSTM 方法增强连续时间序列建模
提出了一种基于 ODE-LSTM 网络的新型隐状态 ODE 模型,用于建模连续时间序列数据,实验结果表明其相较于 Latent ODE-RNN 模型具有更好的性能且能够避免训练过程中出现的梯度消失和梯度爆炸问题。
- 神经 ODE 流的增强结构改进分布建模
本文提出了 AFFJORD,一种基于神经 ODE 的归一化流,通过定义保留空间拓扑特殊增广变换动力学,增强了 FFJORD 的表示能力,并通过广义连锁法将增广形式的 Jacobian 行列式推广到连续情况下,给出了一个神经 ODE 变换 J - 自适应时间步长神经微分循环神经网络
本文提出了一种基于神经 ODE 的 RNN 模型 (RNN-ODE-Adap),用于建模和预测非平稳时间序列数据,该模型可适应性地选择时间步长,并在 Hawkes 型时间序列数据中表现出一致性估计预测能力和计算成本优势。
- 连续时间循环神经网络:概览及其在重症监护中预测血糖方面的应用
本文介绍了在不规则测量环境中,利用神经普通微分方程或神经流层来提高自回归递归神经网络性能的不同 CTRNN 体系结构,研究表明,在血糖概率预测方面,只有 LSTM 和 ODE-LSTM 体系结构与渐进提升树模型具有相当的性能。
- 流形插值优化传输流在轨迹推断中的应用
使用 Manifold Interpolating Optimal-Transport Flow(MIOFlow)方法,从静态快照样本中学习随机、连续的人口动态,将动态模型、流形学习和最优传输结合起来,使用神经常微分方程(Neural OD - 基于动态图神经 ODE 的多元时间序列预测
本文提出了一种使用动态图神经普通微分方程(MTGODE)来预测多元时间序列的连续模型,旨在解决离散神经网络在捕捉稳定和精确的时空动态时所遇到的困难。我们的实验证明了该方法从多种角度在五个时间序列基准数据集上的超越性。
- LyaNet:一种用于训练神经 ODE 的 Lyapunov 框架
本研究提出了一种名为 LyaNet 的方法,基于 Lyapunov loss 公式训练普通微分方程,以鼓励推理动力学快速收敛到正确的预测,实验证明相对于标准神经 ODE 训练,LyaNet 可以提供更好的预测性能,更快的推理动力学收敛和更好 - ICCV基于神经 ODE 的潜在变换应用于 GAN 图像编辑
本文研究在生成模型中,利用非线性的神经 ODE 来处理非纹理变化因素,挖掘潜在编码空间中的更多属性,并对大量具有已知属性的数据集进行实证研究。
- GrADE: 基于图形的数据驱动时变非线性偏微分方程求解器
本论文中,我们提出了一个名为 “GrADE” 的新颖框架,以解决非线性偏微分方程的时间依赖性问题,该框架包括 FNN(fully connected neural network)和 Graph Neural Network 以及最近开发的 - 具有最小内存的神经 ODE 精确梯度的辛伴随方法
本研究提出简正了的伴随方法,通过辛积分器求解的伴随方法 获取完全梯度 (直到舍入误差) 并具有更少的记忆消耗,比其他方法更快且能更好地抑制舍入误差.
- 神经常微分方程用于干预建模
该论文提出了一种名为 IMODE 的新型神经 ODE 方法,该方法可以有效地处理具有干预效应的实际系统动态,并通过合成和真实时间序列数据集的实验结果展示 IMODE 相对于现有方法的优越性。
- AAAIVid-ODE:使用神经常微分方程进行连续时间视频生成
本文提出了一种结合神经 ODE 和像素级视频处理技术的连续时间视频生成方法,能够处理具有任意时间步长的输入视频,并在真实世界视频数据集上验证该方法的超越性能。
- 使用连续动态模型为 Transformer 学习位置编码
提出了一种新的位置信息编码方法,使用神经常微分方法对非循环模型(如 Transformer)进行编码,并证明在翻译和理解任务中,该编码方法与已有编码方法相比具有更好的性能。
- NODIS: 神经常微分场景理解
本文提出了一种使用神经 ODE 求解的架构来进行语义图像理解,达到了当前三个基准任务的最佳结果,并构建了一个提供图像抽象语义解释的场景图。
- ICLR关于 ResNets 的时空表达性
该研究论文研究了残差网络(ResNets)在监督学习中的作用,提出了其作为 ODEs 的时空近似,并探讨了通过 ResNets 中残差块的数量和表达能力的增加来逼近 ODEs 的解,并推导了一定规则下获得预定精度所需的残差块复杂性的估计。