时间序列神经微分方程多次射击训练
本研究介绍了一个新的神经模型:神经控制微分方程模型,解决了利用常规微分方程对时间动态进行建模时无法针对后续观察调整轨迹的问题,并通过实验和理论结果展示其在较多数据集上实现了与其他神经网络模型相当的最佳性能
May, 2020
在处理真实世界的不规则时间序列数据中,由于不连续的采样间隔和缺失值,神经随机微分方程(Neural SDEs)的良好性能依赖于漂移和扩散函数的巧妙选择,本研究通过提出三个稳定的 Neural SDE 类别: Langevin 型 SDE、线性噪声 SDE 和几何 SDE,并通过广泛的实验验证了这些方法在分布转移和不同缺失率下的鲁棒性,展示了该方法在处理真实世界不规则时间序列数据中的有效性。
Feb, 2024
本研究提出一种利用混沌和数学优化的训练算法,可有效解决 NeuralODEs 实际应用中训练时间长,效果不佳的问题。与传统训练方法相比,该算法在不更改模型架构的情况下,可大幅降低误差值,并能够准确地捕捉真实的长期行为并正确地向未来外推。
Oct, 2022
本文提出了一种名为神经跳跃随机微分方程的数据驱动方法,用于学习连续和离散动态行为,即同时具有流动和跳跃的混合系统,并在几个合成和真实世界的标记点过程数据集上展示了其预测能力。
May, 2019
本文提出了一种使用神经随机微分方程学习控制动力学模型的框架和算法,能够构建模型预测控制算法以及模型基的增强学习领域中的仿真器,在模拟机器人系统中得到良好的应用。
Jun, 2023
介绍了一种新的数据驱动方法 ——Neural Jump ODE (NJ-ODE), 该模型模拟了连续时间下的随机过程。该模型使用神经 ODE 模型建模两个观察值之间的条件期望,并在每次发现新的观察值时进行跳跃。实验结果表明该模型对于更复杂的学习任务优于现有的基准模型。
Jun, 2020
本研究将学习规则和神经 ODE 相结合,构建了连续时间序列处理网络,学习如何在其他网络的快速变化的突触连接中操作短期记忆,这产生了快速权重程序员和线性变压器的连续时间对应物。该模型在各种时间序列分类任务中优于现有的神经控制微分方程模型,同时也解决了它们的根本可扩展性限制。
Jun, 2022
该论文提出了一种名为 Neural Eigen 随机微分方程的算法,通过在患者设定的超参数上运行超网络来提供个性化建模、扩展到新的治疗政策、根据噪声水平进行可调表现,以及快速、连续和闭合的预测,以模拟医学健身房环境中的真实医疗问题。
Jun, 2023