功能流匹配
生成模型在处理轨迹推断等任务时,传统的基于欧几里得几何的条件路径设计往往过于局限,未能很好地捕捉到底层动力学,而 Metric Flow Matching(MFM)作为一种基于非模拟的条件流匹配框架,通过最小化数据诱导的黎曼度量的动能来学习近似测地线插值,实现了在数据流形上匹配矢量场,从而降低了不确定性并获得了更有意义的插值结果。该研究不局限于特定任务,并通过 LiDAR 导航、非配对图像翻译和建模细胞动力学等一系列具有挑战性的问题验证了 MFM 方法的优越性,特别在单细胞轨迹预测方面达到了 SOTA 水平。
May, 2024
基于连续归一化流的生成建模范例中,发现使用流匹配方法与扩散路径一起训练更具有鲁棒性和稳定性,并且可以开启使用优化运输插值定义的非扩散概率路径,该方法比传统扩散模型更适用于训练 ImageNet,并能快速生成可靠采样结果。
Oct, 2022
该论文讨论了流匹配在 $p$-Wasserstein 距离方面的收敛性质,通过研究一类更广泛的向量场的均值和方差函数,确定实现这些最优速率所必需的特定条件,并且证明了流匹配能够达到与扩散模型相当的收敛速率,从而为流匹配作为一种无需模拟的生成模型提供了第一条理论证据。
May, 2024
基于动态测量输运的生成模型通过学习常微分方程或随机微分方程,将初始条件从已知基础分布推导到目标分布。我们介绍了流图匹配算法,通过学习潜在常微分方程的双时间流图,得到了一个高效的几步生成模型,其步数可以根据精度和计算成本进行灵活的调节。与扩散模型或随机插值方法相比,流图匹配方法能够以显著降低的采样成本生成高质量样本。
Jun, 2024
本文提出了一种在预训练自编码器的潜在空间中应用流匹配的方法,以实现高分辨率图像合成的计算效率和可扩展性的提高,并将各种条件集成到流匹配中进行条件式生成任务,包括标签条件下的图像生成、图像修复和语义到图像的生成。通过大量实验,本方法在各种数据集上均具有定量和定性的有效性,并提供了重构潜在流分布与真实数据分布之间 Wasserstein-2 距离的理论控制。
Jul, 2023
Fisher-Flow 是一种用于离散数据生成建模的新型流匹配模型,采用几何学观点,将离散数据视为在统计流形上的点,通过转移沿 $d$- 超球面上的(闭合形式)测地线上的质量来定义流,可以优化训练动力学,提高性能,并在合成和实际基因序列设计等多个领域中优于传统扩散和匹配模型。
May, 2024
本文基于流匹配理论开发了基于流匹配的条件生成理论,通过广义连续性方程数学框架,匹配矩阵场而非向量场,确保生成的条件分布的连续性,并通过实验和数学结果验证了我们的理论。
Feb, 2024
该文提出了 Riemannian Flow Matching (RFM) 框架,用于基于流的生成建模,可在流形上进行直接而有效的训练,并且在真实世界的非欧几里得数据集上达到了最先进的性能。
Feb, 2023
我们提出了一种称为变分流匹配 (VFM) 的流匹配式变分推理,即基于这个公式我们开发了 CatFlow,这是一种用于分类数据的流匹配方法,它易于实现、计算效率高,并在图生成任务中取得了较好的结果。
Jun, 2024
通过建模生成概率路径的向量场,连续归一化流(CNFs)利用神经网络学习参考密度与目标密度之间的概率路径。本文重新利用流匹配(FM)方法,结合马尔可夫采样方法评估 FM 目标和使用学习的概率路径改进蒙特卡洛采样,将该方法用于概率推断。我们提出了一种顺序方法,利用马尔可夫链的样本修正定义 FM 目标的概率路径。我们增加了自适应调节机制以发现目标中的多个模式。在温和的假设下,我们证明了 FM 目标的局部最优收敛性,讨论了收敛速率的改进,并在合成和真实世界示例中说明了我们的方法。
May, 2024