退火流生成模型用于高维多模态分布的采样
引入了一种基于SurVAE流的方法,结合神经运输方法和Metropolis-Hastings规则,在混合Monte Carlo中提供对离散域的采样能力。
Feb, 2021
本文提出了一种新的蒙特卡罗算法Annealed Flow Transport (AFT),它 结合使用了Annealed Importance Sampling (AIS)、Sequential Monte Carlo (SMC)和normalizing flows (NFs),可以更准确地估计概率分布的归一化常数和与目标分布有关的期望值。
Feb, 2021
本文中介绍了一种名为Continual Repeated Annealed Flow Transport Monte Carlo (CRAFT)的方法,该方法将序列Monte Carlo采样器与使用归一化流的变分推断结合在一起,以传输退火温度,使用KL散度进行优化。研究表明,CRAFT在Annealed Flow Transport Monte Carlo和基于马尔可夫链的随机归一化流等领域上有所提高,融入粒子MCMC,使得这种学习采样器在具有挑战性的格子场理论示例上可以获得令人印象深刻的准确结果。
Jan, 2022
本文提出一种基于连续时间正规化流的生成模型,该流的速度场由时间依赖密度的概率流推断而来,可用于样本生成和密度估计,并可最小化插值密度的路径长度来建立最优传输映射。该方法通过对基于随机微分方程的方法的简化,使生成的流可以以低成本超越传统方法,并可在图像生成等任务上达到较理想的性能。
Sep, 2022
基于连续归一化流的生成建模范例中,发现使用流匹配方法与扩散路径一起训练更具有鲁棒性和稳定性,并且可以开启使用优化运输插值定义的非扩散概率路径,该方法比传统扩散模型更适用于训练 ImageNet,并能快速生成可靠采样结果。
Oct, 2022
本文提出了一种称为TemperFlow的新方法,通过学习一系列调和分布来逐步接近目标分布,通过传输映射从高维度分布中采样,解决了因目标密度函数不规范且包含孤立模式而产生的巨大挑战,该方法得到了实验的证明和应用。
Apr, 2023
本文提出了一种新的马尔可夫蒙特卡罗算法来应对标准归一化流在复杂分布上可能出现的病态问题,并将其与传统方法进行了比较,结果表明该方法不需要专门的训练,并且可以简单地与任何预先经过训练的NF网络结构一起使用。
May, 2023
我们提出了一种基于扩散生成流采样器(DGFS)的抽样框架,该方法可以将学习过程易于处理地分解为短的部分轨迹段,通过参数化额外的“流函数”,并且在各种具有挑战性的实验中展示了相比于相关先前方法更准确的规范常量估计。
Oct, 2023
通过建模生成概率路径的向量场,连续归一化流(CNFs)利用神经网络学习参考密度与目标密度之间的概率路径。本文重新利用流匹配(FM)方法,结合马尔可夫采样方法评估FM目标和使用学习的概率路径改进蒙特卡洛采样,将该方法用于概率推断。我们提出了一种顺序方法,利用马尔可夫链的样本修正定义FM目标的概率路径。我们增加了自适应调节机制以发现目标中的多个模式。在温和的假设下,我们证明了FM目标的局部最优收敛性,讨论了收敛速率的改进,并在合成和真实世界示例中说明了我们的方法。
May, 2024