May, 2023

具有快速收敛速度的随机微分方程的非参数学习

PDF
TL;DR本论文提出了一种非参数学习算法，利用状态的离散时间观测来识别非线性随机微分方程的漂移和扩散系数，其中的关键思想是拟合相应的 Fokker-Planck 方程的 RKHS 近似，通过理论估计学习率，而这个学习率与以前的方法不同，当未知漂移和扩散系数的可靠性更高时，变得更加紧密。由于我们的方法是基于核的，离线预处理可以被有利地利用以实现有效的数字实现。
发现论文，激发创造
  • 随机占据核方法用于系统识别

    使用占位核方法从数据中非参数地学习常微分方程，提出了一种两步法来学习随机微分方程的漂移和扩散，第一步使用占位核算法学习漂移，第二步使用半定规划学习扩散，以核的平方关联的 RKHS 中学习扩散的平方作为非负函数。

    Jun, 2024

  • 随机微分方程的近似贝叶斯学习

    使用高斯过程作为灵活的模型并使用高斯过程回归直接从稠密数据集中计算估计，开发出一种非参数方法来估计随机微分方程组中的漂移和扩散函数，并开发了一种近似的期望最大化算法来处理稀疏观察之间的未观察到的潜在动态。

    Feb, 2017

  • 无需梯度匹配的高斯过程学习随机微分方程

    该论文提出了一种全新的学习随机微分方程（SDE）的非参数漂移和扩散函数的新方法，学习通过对非均匀时间增量和任意稀疏度的观察进行路径分布的模拟，证明了该方法的学习系统是鲁棒且高效的。

    Jul, 2018

  • 使用高斯过程学习未知的常微分方程模型

    研究提出了一种基于高斯过程矢量场的非参数 ODE 建模方法，可以不需要先验知识学习任意连续时间系统的基本动力学，并利用稀疏数据推断系统的未来动态和进行模拟。

    Mar, 2018

  • 非参数学习非局部算子中的核函数

    本文采用数据自适应 RKHS Tikhonov 正则化方法，提出基于可识别性函数空间的非局部算子核学习的收敛估计器，成功地从实际数据中学习微观尺度上应用于非均质固体的应力波传播的均质化模型，并在健壮性，泛化性和准确性方面优于基线方法。

    May, 2022

  • 通过多变量占据核函数学习高维非参数微分方程

    提出了一种使用向量值再生内积核空间提供的隐式公式的线性方法来学习非参数 ODE 系统的学习算法，其解决方案依赖于与解决方案轨迹相关的多元占用核函数，这在高度非线性的模拟和实际数据上进行了验证，并通过学习非参数一阶拟线性偏微分方程的方法证明了其多样性。

    Jun, 2023

  • 大步长非参数随机逼近

    本文研究了基于再生核 Hilbert 空间（RKHS）框架下的随机设计最小二乘回归问题，其中采用平均非正则化最小均方算法得到了最优收敛速率。

    Aug, 2014

  • 使用随机傅里叶特征在 RKH 空间中进行网络分布式在线学习

    我们提出了一种新颖的扩散方案，用于在网络上进行基于内核的在线学习，通过使用 Random Fourier Features，将解决方案近似为固定大小的向量，并提供了渐近收敛和网络遗憾的限制条件。

    Mar, 2017

  • 带有变分 Wishart 扩散的随机微分方程

    本文提出了一种贝叶斯非参数推断随机微分方程的方法，该方法可用于回归任务和连续时间动态建模，强调微分方程的随机部分，利用 Wishart 过程对其进行建模，同时提出了半参数化方法，可以应用于高维模型的建模，成功地模型化了具有条件异方差噪声的潜在和自回归时间系统，实验证明建模扩散通常可以提高性能，并且微分方程中含有的随机性对于避免过拟合是必不可少的。

    Jun, 2020

  • 通过神经微分方程进行分布学习：一种非参数统计的观点

    用普通微分方程（ODE）模型通过似然最大化进行训练的分布学习的非参数统计收敛分析是首次建立的，将速度场类和目标密度的相关收敛率以及对神经网络的影响纳入考虑。

    Sep, 2023