May, 2024

流匹配实现最小极大均衡收敛

PDF
TL;DR该论文讨论了流匹配在 $p$-Wasserstein 距离方面的收敛性质，通过研究一类更广泛的向量场的均值和方差函数，确定实现这些最优速率所必需的特定条件，并且证明了流匹配能够达到与扩散模型相当的收敛速率，从而为流匹配作为一种无需模拟的生成模型提供了第一条理论证据。
flow matchinggenerative modelconvergence properties$p$-wasserstein distancediffusion models
发现论文，激发创造
  • 流动地图匹配

    基于动态测量输运的生成模型通过学习常微分方程或随机微分方程，将初始条件从已知基础分布推导到目标分布。我们介绍了流图匹配算法，通过学习潜在常微分方程的双时间流图，得到了一个高效的几步生成模型，其步数可以根据精度和计算成本进行灵活的调节。与扩散模型或随机插值方法相比，流图匹配方法能够以显著降低的采样成本生成高质量样本。

    Jun, 2024

  • 生成建模中的流匹配

    基于连续归一化流的生成建模范例中，发现使用流匹配方法与扩散路径一起训练更具有鲁棒性和稳定性，并且可以开启使用优化运输插值定义的非扩散概率路径，该方法比传统扩散模型更适用于训练 ImageNet，并能快速生成可靠采样结果。

    Oct, 2022

  • 功能流匹配

    本文提出一种功能流匹配（FFM）方法，是一种在无限维空间中直接操作的功能空间生成模型，通过定义概率量的路径，学习函数空间中的向量场来产生这些概率量的路径，而不依赖于似然度或模拟，经过实验评估表明，该方法优于其他具有相似功能的生成模型。

    May, 2023

  • 切换流匹配：通过切换 ODE 来消除奇异性

    通过使用切换的普通微分方程 (ODEs) 来消除奇点问题，我们提出了一个更通用的框架，Switched FM (SFM)，以解决连续时间生成模型中的采样速度缓慢的问题，并演示了该框架的有效性。

    May, 2024

  • 离散数据上生成建模的费舍尔流匹配

    Fisher-Flow 是一种用于离散数据生成建模的新型流匹配模型，采用几何学观点，将离散数据视为在统计流形上的点，通过转移沿 $d$- 超球面上的（闭合形式）测地线上的质量来定义流，可以优化训练动力学，提高性能，并在合成和实际基因序列设计等多个领域中优于传统扩散和匹配模型。

    May, 2024

  • 关于 Wasserstein 距离中扩散模型的一般概率流 ODE 的收敛性分析

    使用概率流常微分方程进行基于得分的生成建模已经在各种应用领域取得了显著的成功。本文首次提供了关于概率流常微分方程采样器的非渐近收敛性分析，假定得分估计准确，并在 2-Wasserstein 距离下建立了一系列 ODE 采样器的迭代复杂性结果。

    Jan, 2024

  • 增强潜在扩散与流匹配

    通过将流匹配引入扩散模型和卷积解码器之间，结合扩散模型的多样性、流匹配的高效性和卷积解码器的有效性，我们实现了最先进的高分辨率图像合成。

    Dec, 2023

  • 数据流动匹配：实现数据流形上的平滑插值

    生成模型在处理轨迹推断等任务时，传统的基于欧几里得几何的条件路径设计往往过于局限，未能很好地捕捉到底层动力学，而 Metric Flow Matching（MFM）作为一种基于非模拟的条件流匹配框架，通过最小化数据诱导的黎曼度量的动能来学习近似测地线插值，实现了在数据流形上匹配矢量场，从而降低了不确定性并获得了更有意义的插值结果。该研究不局限于特定任务，并通过 LiDAR 导航、非配对图像翻译和建模细胞动力学等一系列具有挑战性的问题验证了 MFM 方法的优越性，特别在单细胞轨迹预测方面达到了 SOTA 水平。

    May, 2024

  • 探索利用扩散引导的流匹配的更直接轨迹

    通过在整个分布层面上由扩散模型指导的耦合策略，基于直观轨迹生成（Flow Matching）的新方法 Straighter trajectories of Flow Matching (StraighFM) 实现了在在像素空间和潜在空间下的高质量样本生成。

    Nov, 2023

  • 流匹配方法的误差界

    本文提出了一种使用完全确定性采样的流匹配过程，该过程利用概率流 ODE 方法和去噪扩散隐式模型，为基于 ODE 的生成模型提供了误差界限。

    May, 2023