Jul, 2023

利用潜变量 ODE-LSTM 方法增强连续时间序列建模

PDF
TL;DR提出了一种基于 ODE-LSTM 网络的新型隐状态 ODE 模型，用于建模连续时间序列数据，实验结果表明其相较于 Latent ODE-RNN 模型具有更好的性能且能够避免训练过程中出现的梯度消失和梯度爆炸问题。
continuous time seriesneural odelatent ode modellatent ode-rnn modellatent ode-lstm model
发现论文，激发创造
  • 用于不规则采样时间序列的潜在 ODE

    本文提出了一种名为 ODE-RNNs 的模型，可以对非匀齐时间间隔的时间序列进行建模，并通过实验表明，这种基于 ODE 的模型在处理不规则抽样数据时比基于 RNN 的模型表现更优。

    Jul, 2019

  • 学习非规则采样时间序列中的长期依赖

    我们提出了一种基于长短期记忆机制的算法来解决非均匀采样数据上具有长期依赖性的序列建模问题，其核心是将记忆从时间连续状态中分离出来，形成了一种新的 ODE-LSTM 模型。实验证明，该模型在非均匀采样数据的长期依赖建模上优于基于其他递归神经网络的模型。

    Jun, 2020

  • 基于神经常微分方程的循环神经网络模型

    该研究论文介绍了一种使用 ODE 的时间序列数据分析方法，提出基于 ODE 的 RNN 模型，可在较短的训练时间内学习具有不规则采样率的连续时间序列，并且计算效率更高、精度更高、设计更简单。

    May, 2020

  • 自适应时间步长神经微分循环神经网络

    本文提出了一种基于神经 ODE 的 RNN 模型 (RNN-ODE-Adap)，用于建模和预测非平稳时间序列数据，该模型可适应性地选择时间步长，并在 Hawkes 型时间序列数据中表现出一致性估计预测能力和计算成本优势。

    Jun, 2023

  • 连续时间循环神经网络：概览及其在重症监护中预测血糖方面的应用

    本文介绍了在不规则测量环境中，利用神经普通微分方程或神经流层来提高自回归递归神经网络性能的不同 CTRNN 体系结构，研究表明，在血糖概率预测方面，只有 LSTM 和 ODE-LSTM 体系结构与渐进提升树模型具有相当的性能。

    Apr, 2023

  • 神经 Chronos ODE：揭示时间序列数据中的时间模式并预测未来和过去趋势

    本文介绍了 Neural Chronos Ordinary Differential Equations 及其与 Recurret Neural Networks 结合的方法来实现对系统时间上正反向的预测和长时间序列的预测与填补。实验结果证明了该方法在数据稀疏情况下比 Neural ODE 有更优的表现且可以在多个具体应用任务中取得更好的效果。

    Jul, 2023

  • 神经跳跃常微分方程：一致连续时间预测和滤波

    介绍了一种新的数据驱动方法 ——Neural Jump ODE (NJ-ODE), 该模型模拟了连续时间下的随机过程。该模型使用神经 ODE 模型建模两个观察值之间的条件期望，并在每次发现新的观察值时进行跳跃。实验结果表明该模型对于更复杂的学习任务优于现有的基准模型。

    Jun, 2020

  • 不规则采样时间序列预测的功能潜在动力学

    通过在时间序列中仅从观察值学习简单曲线，我们提出了一种名为功能潜在动力学（FLD）的模型族，代替复杂的 ODE 模型，以捕捉不规则时间序列的连续动态，并在减少运行时间和内存开销的同时达到更好的性能。

    May, 2024

  • 分析非规则时间序列数据的稳定神经随机微分方程

    在处理真实世界的不规则时间序列数据中，由于不连续的采样间隔和缺失值，神经随机微分方程（Neural SDEs）的良好性能依赖于漂移和扩散函数的巧妙选择，本研究通过提出三个稳定的 Neural SDE 类别： Langevin 型 SDE、线性噪声 SDE 和几何 SDE，并通过广泛的实验验证了这些方法在分布转移和不同缺失率下的鲁棒性，展示了该方法在处理真实世界不规则时间序列数据中的有效性。

    Feb, 2024

  • 一种基于统计学的隐性动态建模方法与微分方程

    使用普通微分方程进行统计建模，处理纵向队列数据中的局部变化问题，并利用神经网络进行动态建模和参数提取。

    Nov, 2023