ICMLFeb, 2022

基于评分的随机微分方程系统的图生成建模

PDF
TL;DR提出了一种基于得分的图生成模型，采用连续时间框架下的新图扩散过程，通过随机微分方程系统对节点和边缘进行联合分布建模，并提出了适用于该过程的新颖得分匹配目标，通过求解反向扩散过程的方程系统高效采样。通过对多个数据集的验证，该方法在生成具有挑战性的现实世界图形时获得了优异的性能，并能够生成符合 训练分布的分子，表明其对于节点 - 边缘关系的建模具有有效性。
graph generative modelcontinuous-time frameworkstochastic differential equationsscore matching objectivesmolecule generation
发现论文，激发创造
  • 基于分数的随机微分方程生成建模

    本文提出了一种基于随机微分方程的得分模型生成方法，通过缓慢注入噪声将复杂数据分布平滑地转换为已知的先验分布，并通过缓慢地消除噪声将先验分布转换回数据分布，同时利用基于神经网络的得分生成建模技术可以精确估计这些得分，并使用数值微分方程求解器生成样本。

    Nov, 2020

  • 基于狄利克雷扩散分数模型的生物序列生成方法

    使用 Dirichlet 扩散分数模型实现生物序列的生成及 DNA 序列设计。

    May, 2023

  • 逆向随机微分方程的基于得分的生成建模：反演和生成

    该论文提出了基于 BSDE 的扩散模型，采用适应现有评分函数的方法，确定在达到所需终端分布所需的初始条件。研究表明，采用 Lipschitz 网络进行评分匹配具有优势，该方法具有应用于不同领域（如扩散反演、条件扩散和不确定性量化）的潜力。该工作对得分为基础的生成学习领域做出了贡献，并为解决实际问题提供了一个有前途的方向。

    Apr, 2023

  • 通过随机微分方程进行基于组合复杂得分的扩散建模

    利用图结构、生成模型、组合复杂体、随机微分方程和生成人工智能，提出了一个统一框架来生成复杂物体，包括图和分子，并且在这些任务上与最先进的方法相竞争。

    Jun, 2024

  • 图神经随机微分方程

    我们提出了一种新颖的模型，即图神经随机微分方程（Graph Neural SDEs）。此技术通过使用布朗运动将随机性嵌入数据表示，提升了图神经常微分方程（Graph Neural ODEs），允许评估预测的不确定性，尤其在置信度预测方面超过了常规模型如图卷积网络和图神经常微分方程，使其在处理静态和时空上下文中的超出分布检测方面更加优越。

    Aug, 2023

  • 基于离散图结构的分布式条件扩散用于分子图生成

    本文提出了一种基于条件扩散的离散图结构（CDGS）的分子图生成方法，通过随机微分方程（SDE）实现正向图扩散过程并得出离散图结构作为逆向生成过程的条件，利用普通微分方程（ODE）求解器进行高效的图采样，在各种数据集上验证了该框架的有效性，特别是在有限的步骤中仍能生成高质量的分子图。

    Jan, 2023

  • 谱扩散快速生成图

    该论文提出了一种基于图谱扩散的高效而有效的 Graph Spectral Diffusion Model （GSDM），相较于基于整个图邻接矩阵空间的扩散模型，该模型能够更好地学习生成拓扑结构更好的图数据，而实验结果表明该模型不仅可以生成质量更高、而且计算消耗也更小。

    Nov, 2022

  • 一种灵活的扩散模型

    本研究提出了一个通用的模型参数化框架，尤其是针对前向 SDE 的空间部分，通过理论保障和实验证明了其优越性。

    Jun, 2022

  • 基于分数的扩散模型通过随机微分方程

    该篇论文是一篇关于基于分数的扩散模型的阐述性文章，重点介绍了通过随机微分方程 (SDE) 进行公式化。在温和的引言后，讨论了扩散建模的两个支柱 —— 抽样和得分匹配，其中包括 SDE/ODE 抽样，得分匹配效率，一致模型和强化学习。通过简短的证明来说明所述结果的主要思想。本文主要是为初学者介绍该领域，从中的分析对于设计新模型或算法的从业者也有一定的实用价值。

    Feb, 2024

  • 扩散模型生成过程最优选择的探索：普通微分方程与随机微分方程对比

    本文主要研究了扩散模型在计算机视觉中的应用，比较和分析了基于 ODE 和 SDE 的概率流和扩散模型在不同情况下的性能差异，研究表明，对于特定的脉冲形状误差，扩散系数越大，使用 SDE 模型生成样本的误差就会指数级下降，并且变化扩散系数可以提高样本质量。

    Jun, 2023