通过 Riemannian 扩散过程的混合在流形上进行生成建模

Oct, 2023

通过 Riemannian 扩散过程的混合在流形上进行生成建模

Generative Modeling on Manifolds Through Mixture of Riemannian Diffusion Processes

Jaehyeong Jo, Sung Ju Hwang

TL;DR基于 Riemann 流形的扩散混合模型，通过以端点条件的扩散过程的混合来构建一种流形上的生成过程，取代以往扩散模型的去噪方法，更好地在高维度上表现，并在各种流形上优于现有的生成模型。

Abstract

Learning the distribution of data on riemannian manifolds is crucial for modeling data from non-Euclidean space, which is required by many applications from diverse scientific fields. Yet, existing generative models

riemannian manifolds generative models diffusion processes endpoint-conditioned high dimensions

发现论文，激发创造

黎曼扩散模型

本文介绍了一种新的图像生成和似然估计方法 —— 扩展连续时间扩散模型到任意黎曼流形，提出了一种似然估计变分框架，并在黎曼流形上证明其等价性，证明了这种新方法在各个评测标准上得到了新的最先进的表现。

Aug, 2022

扩展黎曼扩散模型

基于黎曼流模型，通过改进近似方法和利用对称空间，我们能够在高维度上学习分布并得到明显改进，包括模拟非平凡流形上的 QCD 密度并对高维超球上的学习嵌入进行对比实验。

Oct, 2023

使用自由形式流形学习流分布

我们提出了一种在 Riemannian 流形上进行分布学习的替代方法，该方法只需要一次函数评估，然后将结果投影到流形上。通过在切空间中评估的迹来估计负对数似然的梯度，我们在各种流形上评估了我们的方法，并发现相比之前的工作，推断速度显著提高且具有竞争性的性能。我们在该网址上公开了我们的代码。

Dec, 2023

扩散中的多变外观：从时变几何到视觉显著性

本文研究了扩散模型的几何属性，介绍了生成率的概念和利用不同可微的方案估计生成率的方法，并提出了一种生成曲线匹配算法，为多种图像处理任务提供了统一框架，结果表明与最近的基线方法相比，我们的方法始终能产生更好的处理效果。

Jun, 2024

Riemann 流形上的 Matérn 高斯过程

该论文提出了通过光谱理论在紧致黎曼流形上计算这些过程的核心的技术，从而允许使用加速训练技术训练黎曼 Matern 高斯过程，并将其更易用于机器学习实践。

Jun, 2020

几何神经扩散进程

本文将扩展扩散模型的框架，将几何先验引入无限维建模，并通过构建噪声过程和近似得分实现对称性，展示了该模型适用于模拟扩散模型的任意对称性情景以及在复杂的合成场景和天气数据上的可扩展性和容量。

Jul, 2023

受限域的扩散模型

本研究提出两种方法来扩展扩散模型至通过不等式约束定义的流形，包括基于对数障碍度量的失真度量以及基于反射布朗运动的失真度量，在合成和真实任务中进行了实证表明，包括蛋白质骨架和机器人臂运动的约束构象模拟。

Apr, 2023

多流形扩散场

本文提出了一种名为 Manifold Diffusion Fields（MDF）的方法来学习定义在黎曼流形上的连续函数的生成模型，该方法利用了谱几何分析的见解，在流形上定义了一种内在坐标系统，MDF 使用由多个输入输出对形成的显式参数化来表示函数，该方法允许在流形上采样连续函数，并且对于流形的刚性和等距变换是不变的，实证结果表明，与之前的方法相比，MDF 可以更好地捕捉这些函数的分布，具有更好的多样性和保真度。

May, 2023

深度生成模型的黎曼几何

研究了深度生成模型所学习的流形的黎曼几何，并提出了计算测地线和沿流形路径平行传递切向量的算法，发现这些模型学习的流形近似于零曲率，并探讨了这种现象的实际影响。

Nov, 2017

基于 Metropolis 抽样的约束扩散模型

本文介绍了一种基于 Metropolis 抽样算法的简单去噪方案，证明了该新方法对应于反射布朗运动的有效离散化方法，并在包括地理空间建模、机器人技术和蛋白质设计在内的一系列问题设置上展示了我们方法的可扩展性和灵活性。

Jul, 2023