May, 2024

高效采样随机微分方程的不变分布的弱生成采样器

PDF
TL;DR从 Fokker-Planck 方程中派生的转换映射，使用弱生成采样器（WGS）直接生成相互独立和同分布（iid）样本的框架，融合标准化流以表征不变分布并促进基础分布的样本生成。实验结果表明，我们的方法在低计算成本和探索多个亚稳态方面具有较好的能力。
sampling invariant distributionsstochastic simulationdeep learning-based methodfokker-planck equationweak generative sampler
发现论文，激发创造
  • 使用扩散图进行稳定的生成建模

    我们提出了一个结合扩散映射和兰格朗日动力学的生成模型，通过扩散映射近似训练样本的漂移项，并在离散时间的兰格朗日采样器中实现，以生成新样本。通过设置核带宽与未调整的兰格朗日算法中使用的时间步长相匹配，我们的方法有效地解决了通常与时间步长严重随机微分方程相关的稳定性问题。我们的框架可自然地扩展到生成条件样本。通过对合成数据集和随机子网格尺度参数化条件采样问题进行实验，我们验证了我们提出的方案的性能。

    Jan, 2024

  • Fokker-Planck 方程的概率流解

    本文提出了一种基于概率流方程和深度学习的高维 Fokker-Planck 方程求解方法，该方法比传统的随机微分方程求解方法更加准确和稳定，并能直接给出诸如概率流、概率密度、熵等量的估计值。

    Jun, 2022

  • 基于物理知识的生成式对抗网络在随机微分方程中的应用

    研究中介绍了一种新型 PI-GANs 来解决基于有限数量的分散测量数据的前向、反向和混合随机问题，并将物理规律通过自动微分编码到 GANs 的架构中，采用 Wasserstein GANs 进行稳定训练。此外，研究还使用了深度神经网络来进行生成和鉴别，表明了该方法在解决高维随机微分方程问题上的准确性和有效性。

    Nov, 2018

  • 大规模 Wasserstein 梯度流

    本研究介绍了一种基于输入凸神经网络的渐进 Wasserstein 流逼近方法，无需领域离散化或粒子模拟，可用于机器学习应用，例如非线性滤波。

    Jun, 2021

  • Schr {ö} dinger-F {ö} llmer 采样器：无需遍历的采样

    本文提出了一种名为 Schrödinger-Föllmer 采样器 (SFS) 的新方法，用于从可能未经规范化的概率分布中采样，在理论分析中，我们在适当的条件下建立了 SFS 的采样分布的非渐近误差界，我们进行了数值实验来评估 SFS 的性能，并证明 SFS 能够生成比现有方法更好质量的样本。

    Jun, 2021

  • 扩散生成流采样器：通过部分轨迹优化改善学习信号

    我们提出了一种基于扩散生成流采样器 (DGFS) 的抽样框架，该方法可以将学习过程易于处理地分解为短的部分轨迹段，通过参数化额外的 “流函数”，并且在各种具有挑战性的实验中展示了相比于相关先前方法更准确的规范常量估计。

    Oct, 2023

  • 学习随机扩散过程的微生成器

    我们提出了一个基于能量泛函的新框架，用于学习随机扩散过程的微小生成器，该方法在完全和部分知识设置下通过能量风险度量整合物理先验，并通过减少秩估计器在重构核希尔伯特空间中评估统计性能，不受状态空间维度限制的限制，保证了非虚假谱估计，并阐明了随机扩散的内在能量引入度量与生成器估计中使用的重构核希尔伯特空间度量之间的失真对谱学习边界的影响。

    May, 2024

  • 基于弱相关回归的利用 Lévy 噪声推断随机动力学

    我们提出了一种弱相关回归（WCR）方法，通过回归稀疏线性，基于蒙特卡洛方法的 FP 方程，从离散的聚合数据中揭示包含 α 稳定的 Lévy 噪声和高斯噪声的随机微分方程（SDE）的未知随机动力学系统的。我们的方法能够同时区分混合噪声类型，甚至在多维问题中。数值实验证明我们的方法精确且计算效率高。

    Mar, 2024

  • 费曼路径积分理解扩散模型

    利用费曼路径积分的新方法来描述分数评分的扩散模型，推导了反向随机微分方程和损失函数，通过应用量子物理中的 Wentzel-Kramers-Brillouin (WKB) 展开技术来评估随机和确定性采样方案之间的性能差异。

    Mar, 2024

  • 通过估计数据分布梯度的方式进行生成建模

    本文介绍了一种新的生成模型，利用评分匹配来估计数据分布的梯度，通过 Langevin 动力学生成样本。我们的框架使得模型架构更加灵活，无需在训练期间进行抽样或使用对抗性方法，提供了可用于基于原则的模型比较的学习目标。在 MNIST、CelebA 和 CIFAR-10 数据集上，我们的模型产生的样本与 GAN 相当，实现了 CIFAR-10 inception 得分的新的最先进水平为 8.87。此外，我们通过图像修补实验证明了我们的模型学习到了有效的表示。

    Jul, 2019