流动地图匹配
基于连续归一化流的生成建模范例中,发现使用流匹配方法与扩散路径一起训练更具有鲁棒性和稳定性,并且可以开启使用优化运输插值定义的非扩散概率路径,该方法比传统扩散模型更适用于训练 ImageNet,并能快速生成可靠采样结果。
Oct, 2022
通过非简单合并数据和噪声样本的 Multisample Flow Matching 算法,我们可以在完全不需要模拟的情况下,通过一个简单的最小化目标函数构造概率路径,实现连续时间生成模型训练参数、生成高质量样本和高维传输映射等目标的综合优化。
Apr, 2023
本文提出了一种在预训练自编码器的潜在空间中应用流匹配的方法,以实现高分辨率图像合成的计算效率和可扩展性的提高,并将各种条件集成到流匹配中进行条件式生成任务,包括标签条件下的图像生成、图像修复和语义到图像的生成。通过大量实验,本方法在各种数据集上均具有定量和定性的有效性,并提供了重构潜在流分布与真实数据分布之间Wasserstein-2距离的理论控制。
Jul, 2023
通过在整个分布层面上由扩散模型指导的耦合策略,基于直观轨迹生成(Flow Matching)的新方法 Straighter trajectories of Flow Matching (StraighFM) 实现了在在像素空间和潜在空间下的高质量样本生成。
Nov, 2023
我们研究了基于ODE的生成模型(特别是流匹配),通过使用预训练的自编码网络将高维原始输入映射到低维潜在空间,再通过训练一个转换网络来预测从标准正态分布到目标潜在分布的变换速度场。我们的误差分析证明了这种方法的有效性,显示出通过估计ODE流生成的样本分布在温斯坦-2距离下收敛到目标分布,在温和和实际的假设下。此外,我们还展示了具有李普希茨连续性的转换网络可以有效逼近任意平滑函数,这可能具有独立的兴趣。
Apr, 2024
通过使用切换的普通微分方程 (ODEs) 来消除奇点问题,我们提出了一个更通用的框架,Switched FM (SFM),以解决连续时间生成模型中的采样速度缓慢的问题,并演示了该框架的有效性。
May, 2024
生成模型在处理轨迹推断等任务时,传统的基于欧几里得几何的条件路径设计往往过于局限,未能很好地捕捉到底层动力学,而Metric Flow Matching(MFM)作为一种基于非模拟的条件流匹配框架,通过最小化数据诱导的黎曼度量的动能来学习近似测地线插值,实现了在数据流形上匹配矢量场,从而降低了不确定性并获得了更有意义的插值结果。该研究不局限于特定任务,并通过LiDAR导航、非配对图像翻译和建模细胞动力学等一系列具有挑战性的问题验证了MFM方法的优越性,特别在单细胞轨迹预测方面达到了SOTA水平。
May, 2024
本研究解决了确定性流模型在模型估计和离散化误差敏感性上的问题,并且改善了受限于中间状态的样本选择限制。我们提出了一种将确定性流模型的基础常微分方程转化为随机微分方程的方法,创造了多个随机采样器,针对现有的确定性采样器在生成多样性和效率上的缺陷,显著提高了性能。
Oct, 2024
本研究针对现有流匹配方法在生成建模中的效率问题,提出了一种局部流匹配(LFM)的方法,通过学习一系列流匹配子模型,以适应数据到噪声的扩散过程。结果表明,与传统方法相比,LFM在训练效率和生成性能上有显著提升,特别是在无条件生成表格数据和图像数据集方面。
Oct, 2024