May, 2024

数据流动匹配：实现数据流形上的平滑插值

PDF
TL;DR生成模型在处理轨迹推断等任务时，传统的基于欧几里得几何的条件路径设计往往过于局限，未能很好地捕捉到底层动力学，而 Metric Flow Matching（MFM）作为一种基于非模拟的条件流匹配框架，通过最小化数据诱导的黎曼度量的动能来学习近似测地线插值，实现了在数据流形上匹配矢量场，从而降低了不确定性并获得了更有意义的插值结果。该研究不局限于特定任务，并通过 LiDAR 导航、非配对图像翻译和建模细胞动力学等一系列具有挑战性的问题验证了 MFM 方法的优越性，特别在单细胞轨迹预测方面达到了 SOTA 水平。
generative modelsconditional pathsmetric flow matchingriemannian metricsingle-cell trajectory prediction
发现论文，激发创造
  • 一般几何中的黎曼流匹配

    该文提出了 Riemannian Flow Matching (RFM) 框架，用于基于流的生成建模，可在流形上进行直接而有效的训练，并且在真实世界的非欧几里得数据集上达到了最先进的性能。

    Feb, 2023

  • 流动地图匹配

    基于动态测量输运的生成模型通过学习常微分方程或随机微分方程，将初始条件从已知基础分布推导到目标分布。我们介绍了流图匹配算法，通过学习潜在常微分方程的双时间流图，得到了一个高效的几步生成模型，其步数可以根据精度和计算成本进行灵活的调节。与扩散模型或随机插值方法相比，流图匹配方法能够以显著降低的采样成本生成高质量样本。

    Jun, 2024

  • 功能流匹配

    本文提出一种功能流匹配（FFM）方法，是一种在无限维空间中直接操作的功能空间生成模型，通过定义概率量的路径，学习函数空间中的向量场来产生这些概率量的路径，而不依赖于似然度或模拟，经过实验评估表明，该方法优于其他具有相似功能的生成模型。

    May, 2023

  • 生成建模中的流匹配

    基于连续归一化流的生成建模范例中，发现使用流匹配方法与扩散路径一起训练更具有鲁棒性和稳定性，并且可以开启使用优化运输插值定义的非扩散概率路径，该方法比传统扩散模型更适用于训练 ImageNet，并能快速生成可靠采样结果。

    Oct, 2022

  • 流形插值优化传输流在轨迹推断中的应用

    使用 Manifold Interpolating Optimal-Transport Flow（MIOFlow）方法，从静态快照样本中学习随机、连续的人口动态，将动态模型、流形学习和最优传输结合起来，使用神经常微分方程（Neural ODE）在使用最优传输时以流形地面距离为惩罚来插值静态人口快照。

    Jun, 2022

  • 通过深度度量学习进行流形匹配，用于生成建模

    本文提出了一种流形匹配方法来生成模型，该方法包括分布生成器和度量生成器，通过学习距离度量来生成符合真实数据流形的样本，并且应用于无监督和有监督学习任务，得到了良好的效果。

    Jun, 2021

  • 离散数据上生成建模的费舍尔流匹配

    Fisher-Flow 是一种用于离散数据生成建模的新型流匹配模型，采用几何学观点，将离散数据视为在统计流形上的点，通过转移沿 $d$- 超球面上的（闭合形式）测地线上的质量来定义流，可以优化训练动力学，提高性能，并在合成和实际基因序列设计等多个领域中优于传统扩散和匹配模型。

    May, 2024

  • 多样本流匹配：用小批量耦合直线化流

    通过非简单合并数据和噪声样本的 Multisample Flow Matching 算法，我们可以在完全不需要模拟的情况下，通过一个简单的最小化目标函数构造概率路径，实现连续时间生成模型训练参数、生成高质量样本和高维传输映射等目标的综合优化。

    Apr, 2023

  • 流匹配实现最小极大均衡收敛

    该论文讨论了流匹配在 $p$-Wasserstein 距离方面的收敛性质，通过研究一类更广泛的向量场的均值和方差函数，确定实现这些最优速率所必需的特定条件，并且证明了流匹配能够达到与扩散模型相当的收敛速率，从而为流匹配作为一种无需模拟的生成模型提供了第一条理论证据。

    May, 2024

  • 基于黎曼流匹配策略的机器人运动学习

    我们引入了一种名为 Riemannian Flow Matching Policies（RFMP）的新型模型，用于学习和合成机器人视觉运动策略。RFMP 利用了流匹配方法的高效训练和推理能力，具备编码机器人任务中常见的高维多模态分布和简单快速推理过程的优点。我们展示了 RFMP 在基于状态和基于视觉条件的机器人运动策略中的适用性。值得注意的是，由于机器人状态存在于 Riemann 流形上，RFMP 固有地融合了几何意识，这对于真实机器人任务至关重要。为了评估 RFMP，我们进行了两个概念验证实验，并将其性能与 Diffusion Policies 进行了比较。尽管两种方法都成功地学习了考虑的任务，但结果表明，RFMP 提供了更平滑的动作轨迹并具有显着较低的推理时间。

    Mar, 2024