Jul, 2018

无需梯度匹配的高斯过程学习随机微分方程

PDF
TL;DR该论文提出了一种全新的学习随机微分方程（SDE）的非参数漂移和扩散函数的新方法，学习通过对非均匀时间增量和任意稀疏度的观察进行路径分布的模拟，证明了该方法的学习系统是鲁棒且高效的。
stochastic differential equationnon-parametric driftdiffusion functionslearningsimulation
发现论文，激发创造
  • 使用高斯过程学习未知的常微分方程模型

    研究提出了一种基于高斯过程矢量场的非参数 ODE 建模方法，可以不需要先验知识学习任意连续时间系统的基本动力学，并利用稀疏数据推断系统的未来动态和进行模拟。

    Mar, 2018

  • 随机微分方程的近似贝叶斯学习

    使用高斯过程作为灵活的模型并使用高斯过程回归直接从稠密数据集中计算估计，开发出一种非参数方法来估计随机微分方程组中的漂移和扩散函数，并开发了一种近似的期望最大化算法来处理稀疏观察之间的未观察到的潜在动态。

    Feb, 2017

  • 最小二乘随机梯度下降的随机微分方程模型

    我们研究了最小二乘问题的连续时间随机梯度下降（SGD）模型的动力学。我们通过分析随机微分方程 (SDE)，在训练损失（有限样本）或总体损失（在线设置）的情况下建模 SGD 来追求 Li 等人 (2019) 的研究成果。该动力学的一个关键特征是无论样本大小如何，都存在与数据完美插值器。在这两种情况下，我们提供了收敛到（可能退化的）稳态分布的精确非渐近速率。此外，我们描述了渐近分布，给出了其均值、与之偏差的估计，并证明了与步长大小有关的重尾现象的出现。我们还呈现了支持我们发现的数值模拟结果。

    Jul, 2024

  • 具有快速收敛速度的随机微分方程的非参数学习

    本论文提出了一种非参数学习算法，利用状态的离散时间观测来识别非线性随机微分方程的漂移和扩散系数，其中的关键思想是拟合相应的 Fokker-Planck 方程的 RKHS 近似，通过理论估计学习率，而这个学习率与以前的方法不同，当未知漂移和扩散系数的可靠性更高时，变得更加紧密。由于我们的方法是基于核的，离线预处理可以被有利地利用以实现有效的数字实现。

    May, 2023

  • 基于快速高斯过程的非线性 ODE 系统参数识别中的梯度匹配

    本研究提供了一种基于高斯过程回归的 Bayesian 方法的解释，用于参数估计和比较动态系统，提高了非线性动态系统的参数估计和性能准确度，弥补了该方法的严谨数学框架不足之处。

    Apr, 2018

  • DynGMA：一种从数据中学习随机微分方程的强鲁棒性方法

    本文介绍了一种从轨迹数据学习未知随机微分方程的方法，通过近似参数化 SDE 的过渡密度的高斯密度近似和动力学高斯混合近似方法，实现了对完全未知漂移和扩散函数的精确学习和计算不变分布，适用于低时间分辨率和可变的，甚至是不可控的时间步长的轨迹数据。通过在不同场景下进行多个实验，验证了所提方法的优势和鲁棒性。

    Feb, 2024

  • 变分高斯过程扩散过程

    本文提出了一种基于连续指数族描述的高斯变分过程的参数化方法，利用凸优化算法来解决具有非线性扩散过程先验的潜在过程的生成模型下的概率推断和学习问题。

    Jun, 2023

  • 扩散模型的几何视角

    本文研究扩散模型的采样动力学，通过挖掘它的几何结构，提出一种简单却强大的采样理论框架，并将扩散模型的优化与经典的均值偏移算法关联起来。

    May, 2023

  • 差分高斯过程流深度学习

    提出了一种新的深度学习范例 —— 差分流，其通过先学习输入的随机微分方程变换，再进行标准分类或回归处理。微分高斯过程的关键属性是通过无穷深度但无穷小的微分场对输入进行扭曲，将离散层推广为动态系统，证明了其优于深度高斯过程和神经网络的最先进成果。

    Oct, 2018

  • 基于评分的随机微分方程系统的图生成建模

    提出了一种基于得分的图生成模型，采用连续时间框架下的新图扩散过程，通过随机微分方程系统对节点和边缘进行联合分布建模，并提出了适用于该过程的新颖得分匹配目标，通过求解反向扩散过程的方程系统高效采样。通过对多个数据集的验证，该方法在生成具有挑战性的现实世界图形时获得了优异的性能，并能够生成符合 训练分布的分子，表明其对于节点 - 边缘关系的建模具有有效性。

    Feb, 2022