Apr, 2023

反向随机微分方程结合的深度生成建模

PDF
TL;DR该论文提出了一种新颖的深度生成模型 BSDE-Gen，将 BSDE 的灵活性与深度神经网络的高能力相结合，特别适用于高维复杂目标数据的生成，特别是在图像生成领域。该模型将随机性和不确定性纳入生成建模过程，使 BSDE-Gen 成为生成高维数据的有效和自然方法。论文提供了 BSDE-Gen 的理论框架，描述了其模型架构，介绍了用于训练的最大均值差异（MMD）损失函数，并报告了实验结果。
bsde-gendeep generative modelbackward stochastic differential equationsneural networksimage generation
发现论文，激发创造
  • 逆向随机微分方程的基于得分的生成建模：反演和生成

    该论文提出了基于 BSDE 的扩散模型，采用适应现有评分函数的方法，确定在达到所需终端分布所需的初始条件。研究表明，采用 Lipschitz 网络进行评分匹配具有优势，该方法具有应用于不同领域（如扩散反演、条件扩散和不确定性量化）的潜力。该工作对得分为基础的生成学习领域做出了贡献，并为解决实际问题提供了一个有前途的方向。

    Apr, 2023

  • 一种基于反向微分的深度学习算法求解高维非线性反向随机微分方程

    提出了一种基于反向差分深度学习的新型算法，用于解决高维非线性反向随机微分方程问题，并通过 Malliavin 微积分将问题重构为差分深度学习问题，并使用 Euler-Maruyama 方法对积分进行离散化，通过优化损失函数来对 DNN 参数进行反向优化，在理论和实验上证明了该算法的高效性。

    Apr, 2024

  • 基于深度学习的高维抛物型偏微分方程和反向随机微分方程数值解法

    该论文提出了一种基于强化学习和神经网络的算法用于解决高维情况下的偏微分方程和反向随机微分方程等数学问题，并在物理和金融学领域的各种非线性情况下进行了测试和优化。

    Jun, 2017

  • 耦合 FBSDE 的深度 BSDE 方法的收敛性

    本文提出的深度 BSDE 算法对于解决高维度的正反随机微分方程和抛物型偏微分方程具有显著的性能，并在耦合的正反随机微分方程问题中提供了后验误差估计方法。利用神经网络的广泛逼近能力，经实验证明算法的精度非常高。

    Nov, 2018

  • 图神经随机微分方程

    我们提出了一种新颖的模型，即图神经随机微分方程（Graph Neural SDEs）。此技术通过使用布朗运动将随机性嵌入数据表示，提升了图神经常微分方程（Graph Neural ODEs），允许评估预测的不确定性，尤其在置信度预测方面超过了常规模型如图卷积网络和图神经常微分方程，使其在处理静态和时空上下文中的超出分布检测方面更加优越。

    Aug, 2023

  • 基于分数的随机微分方程生成建模

    本文提出了一种基于随机微分方程的得分模型生成方法，通过缓慢注入噪声将复杂数据分布平滑地转换为已知的先验分布，并通过缓慢地消除噪声将先验分布转换回数据分布，同时利用基于神经网络的得分生成建模技术可以精确估计这些得分，并使用数值微分方程求解器生成样本。

    Nov, 2020

  • 神经随机微分方程作为无限维生成对抗网络

    本文介绍了一种将传统经典方法与神经随机微分方程（SDEs）相结合的方法，作为连续生成时间序列模型，无需预设统计或密度功能即可适应任意漂移和扩散，其输入噪声为布朗运动，输出样本是由数值求解器产生的，可用于机器学习中的时间序列建模。

    Feb, 2021

  • 基于评分的随机微分方程系统的图生成建模

    提出了一种基于得分的图生成模型，采用连续时间框架下的新图扩散过程，通过随机微分方程系统对节点和边缘进行联合分布建模，并提出了适用于该过程的新颖得分匹配目标，通过求解反向扩散过程的方程系统高效采样。通过对多个数据集的验证，该方法在生成具有挑战性的现实世界图形时获得了优异的性能，并能够生成符合 训练分布的分子，表明其对于节点 - 边缘关系的建模具有有效性。

    Feb, 2022

  • 高维非线性抛物型偏微分方程的深度遗传算法（Deep-GA）方法

    提出了一种称为深度遗传算法（deep-GA）的新方法，通过将遗传算法（GA）嵌入求解器以优化初始猜测的选择，加速深度 BSDE 方法的性能，达到在更广泛的区间内对非线性 PDE 进行更快的收敛，并在黑 - 斯科尔斯（BS）方程和哈密尔顿 - 雅各比 - 贝尔曼（HJB）方程两个非线性抛物 PDE 上与深度 BSDE 方法的结果进行比较，表明我们的方法提供了可比较的精确性和显著提高的计算效率。

    Nov, 2023

  • CGNSDE：用于建模复杂系统和数据同化的条件高斯神经随机微分方程

    发展了一种基于知识和机器学习的混合建模方法，称为条件高斯神经随机微分方程（CGNSDE），旨在模拟复杂动态系统并实现相关数据同化的分析公式。

    Apr, 2024