使用自由形式流形学习流分布

Dec, 2023

Learning Distributions on Manifolds with Free-form Flows

Peter Sorrenson, Felix Draxler, Armand Rousselot, Sander Hummerich, Ullrich Köthe

TL;DR我们提出了一种在 Riemannian 流形上进行分布学习的替代方法，该方法只需要一次函数评估，然后将结果投影到流形上。通过在切空间中评估的迹来估计负对数似然的梯度，我们在各种流形上评估了我们的方法，并发现相比之前的工作，推断速度显著提高且具有竞争性的性能。我们在该网址上公开了我们的代码。

Abstract

Many real world data, particularly in the natural sciences and computer vision, lie on known riemannian manifolds such as spheres, tori or the group of rotation matrices. The predominant approaches to learning a distribution on such a manifold require solving a differential equation in

riemannian manifolds distribution learning function evaluation free-form flow framework inference

发现论文，激发创造

矩形流形学习

本文提出了两种方法，通过使用自动微分和数值线性代数技术，以可计算的梯度的形式，实现了端到端的非线性流形学习和密度估计，有效地解决了流形上的体积变化问题，并且在流形学习和流形上的分布估计等方面表现优越。

Jun, 2021

等变流形流

本文提出了基于等变流形流的手段，学习任意流形上的对称不变分布，以应对先前机器学习模型所忽略的对称性特征，且在量子场论中应用其学习标准规范密度的效果显著。

Jul, 2021

通过 Riemannian 扩散过程的混合在流形上进行生成建模

基于 Riemann 流形的扩散混合模型，通过以端点条件的扩散过程的混合来构建一种流形上的生成过程，取代以往扩散模型的去噪方法，更好地在高维度上表现，并在各种流形上优于现有的生成模型。

Oct, 2023

扩展黎曼扩散模型

基于黎曼流模型，通过改进近似方法和利用对称空间，我们能够在高维度上学习分布并得到明显改进，包括模拟非平凡流形上的 QCD 密度并对高维超球上的学习嵌入进行对比实验。

Oct, 2023

黎曼流形上的正规化流

本文研究在黎曼流形上的密度估计问题，将微分几何中的同胚技术应用于投影密度到亚流形上的相关技术，广义化标准化流用于更一般的黎曼流形，并给出了具体的例子。

Nov, 2016

使用数据流形上的标准化流进行外分布检测

使用低维流形的测度和距离作为离群检测的标准，实验结果表明流形学习改善了归一化流这一类基于似然模型的离群检测能力，而无需修改模型结构或使用训练期间的辅助离群数据。

Aug, 2023

黎曼扩散模型

本文介绍了一种新的图像生成和似然估计方法 —— 扩展连续时间扩散模型到任意黎曼流形，提出了一种似然估计变分框架，并在黎曼流形上证明其等价性，证明了这种新方法在各个评测标准上得到了新的最先进的表现。

Aug, 2022

流形上的神经常微分方程

本研究探讨如何使用向量场在光滑流形上进行参数化，以及如何进行梯度学习来实现基于神经 ODE 的流规范化方法。

Jun, 2020

黎曼连续归一化流

本文提出 Riemannian 连续正规化流模型，通过设置连续性流作为常微分方程的解来定义流，其可以对光滑流形上的灵活概率测度进行有效参数化，在合成和现实数据方面与标准流或先前介绍的预测流相比可以显著提高表现。

Jun, 2020

同时流形学习和密度估计的流形

介绍了一种名为 manifold-learning flows（M-flows）的生成模型，其可以同时学习数据流形以及流形上的概率密度，并提供降维、去噪以及区分分布等功能。同时，新的训练算法能够分离流形和密度更新，并通过一系列实验证明，M-flows 可以学习数据流形并比标准 normalizing flows 在全局数据空间下提供更好的推理。

Mar, 2020