一般几何中的黎曼流匹配
生成模型在处理轨迹推断等任务时,传统的基于欧几里得几何的条件路径设计往往过于局限,未能很好地捕捉到底层动力学,而 Metric Flow Matching(MFM)作为一种基于非模拟的条件流匹配框架,通过最小化数据诱导的黎曼度量的动能来学习近似测地线插值,实现了在数据流形上匹配矢量场,从而降低了不确定性并获得了更有意义的插值结果。该研究不局限于特定任务,并通过 LiDAR 导航、非配对图像翻译和建模细胞动力学等一系列具有挑战性的问题验证了 MFM 方法的优越性,特别在单细胞轨迹预测方面达到了 SOTA 水平。
May, 2024
本文提出 Riemannian 连续正规化流模型,通过设置连续性流作为常微分方程的解来定义流,其可以对光滑流形上的灵活概率测度进行有效参数化,在合成和现实数据方面与标准流或先前介绍的预测流相比可以显著提高表现。
Jun, 2020
我们引入了一种名为 Riemannian Flow Matching Policies(RFMP)的新型模型,用于学习和合成机器人视觉运动策略。RFMP 利用了流匹配方法的高效训练和推理能力,具备编码机器人任务中常见的高维多模态分布和简单快速推理过程的优点。我们展示了 RFMP 在基于状态和基于视觉条件的机器人运动策略中的适用性。值得注意的是,由于机器人状态存在于 Riemann 流形上,RFMP 固有地融合了几何意识,这对于真实机器人任务至关重要。为了评估 RFMP,我们进行了两个概念验证实验,并将其性能与 Diffusion Policies 进行了比较。尽管两种方法都成功地学习了考虑的任务,但结果表明,RFMP 提供了更平滑的动作轨迹并具有显着较低的推理时间。
Mar, 2024
基于连续归一化流的生成建模范例中,发现使用流匹配方法与扩散路径一起训练更具有鲁棒性和稳定性,并且可以开启使用优化运输插值定义的非扩散概率路径,该方法比传统扩散模型更适用于训练 ImageNet,并能快速生成可靠采样结果。
Oct, 2022
Fisher-Flow 是一种用于离散数据生成建模的新型流匹配模型,采用几何学观点,将离散数据视为在统计流形上的点,通过转移沿 $d$- 超球面上的(闭合形式)测地线上的质量来定义流,可以优化训练动力学,提高性能,并在合成和实际基因序列设计等多个领域中优于传统扩散和匹配模型。
May, 2024
本文介绍了 Moser Flow 一种新型连续归一化流的生成模型,它可以通过求解变量转换公式得到归一化流,学习模型密度的参数形式为源(先验)密度减去神经网络的发散,通过该模型的学习在复杂的流形曲面采样与密度估计上取得了显著的性能提升。
Aug, 2021
我们提出了一种在 Riemannian 流形上进行分布学习的替代方法,该方法只需要一次函数评估,然后将结果投影到流形上。通过在切空间中评估的迹来估计负对数似然的梯度,我们在各种流形上评估了我们的方法,并发现相比之前的工作,推断速度显著提高且具有竞争性的性能。我们在该网址上公开了我们的代码。
Dec, 2023
该研究介绍了一种新颖的生成模型,基于连续归一化流在分解离散度量子流形上。在逐渐整合流中分配类别,避免了离散化潜在连续模型时出现的舍入、样本截断等问题。通过将子流形嵌入到所有联合离散分布的超单纯体中并进行数据驱动的平均,可以逼近能表示结构离散数据的复杂统计依赖关系的一般非分解离散分布。通过匹配分解离散分布的测地线流来展示了该生成模型的有效训练,各种实验突显了该方法的广泛适用性。
Feb, 2024
本文提出一种功能流匹配(FFM)方法,是一种在无限维空间中直接操作的功能空间生成模型,通过定义概率量的路径,学习函数空间中的向量场来产生这些概率量的路径,而不依赖于似然度或模拟,经过实验评估表明,该方法优于其他具有相似功能的生成模型。
May, 2023