Mar, 2024

连续归一化流在概率分布学习中的收敛性

PDF
TL;DR通过连续归一化流（CNFs）和线性插值，我们研究了采用匹配流目标函数学习概率分布的 CNFs 在从有限随机样本中学习概率分布方面的理论属性，并建立了基于 Wasserstein-2 距离的分布估计器的非渐进误差界。
continuous normalizing flowsprobability distributionslinear interpolationconvergence analysiswasserstein-2 distance
发现论文，激发创造
  • 使用条件正则流学习似然函数

    本文介绍了一种新方法，叫做 CNF，用于建模条件密度函数和解决结构预测问题，同时证明了该方法在超分辨率和血管分割等任务上具有竞争力。

    Nov, 2019

  • 匹配流形上的正则化流和概率路径

    该研究论文考虑了在流形数据上训练连续归一化流模型的问题，提出了一种新的概率路径距离度量 PPD，并证明了其具有优越的特性和性能，在实验中所得的结果十分令人满意。

    Jul, 2022

  • 马尔可夫流匹配：用连续正规化流加速 MCMC

    通过建模生成概率路径的向量场，连续归一化流（CNFs）利用神经网络学习参考密度与目标密度之间的概率路径。本文重新利用流匹配（FM）方法，结合马尔可夫采样方法评估 FM 目标和使用学习的概率路径改进蒙特卡洛采样，将该方法用于概率推断。我们提出了一种顺序方法，利用马尔可夫链的样本修正定义 FM 目标的概率路径。我们增加了自适应调节机制以发现目标中的多个模式。在温和的假设下，我们证明了 FM 目标的局部最优收敛性，讨论了收敛速率的改进，并在合成和真实世界示例中说明了我们的方法。

    May, 2024

  • 几何感知归一化的 Wasserstein 流用于最优因果推断

    通过将连续归一化流应用于因果推断中的参数子模型，本文通过优化半参数效率界实现了精确的参数插值，从而进一步提高对错误建模的鲁棒性，从而取得了重要进展。

    Nov, 2023

  • OT-Flow: 基于最优输运的快速准确连续正则化流

    提出了一种基于最优传输理论和神经常微分方程的连续归一化流方法，具有高维密度估计和生成建模的能力，在五种任务中与现有技术相比表现出色，且训练时间为现有技术的 8 倍。

    May, 2020

  • 生成建模中的流匹配

    基于连续归一化流的生成建模范例中，发现使用流匹配方法与扩散路径一起训练更具有鲁棒性和稳定性，并且可以开启使用优化运输插值定义的非扩散概率路径，该方法比传统扩散模型更适用于训练 ImageNet，并能快速生成可靠采样结果。

    Oct, 2022

  • 等变流匹配

    本文提出了一种新的训练目标 equivariant flow matching，该方法是基于最近提出的 optimal transport flow matching，利用目标能量的对称性来对称等变 CNFs 进行高效的仿真 - free 训练，在许多粒子系统和小分子 alanine dipeptide 中展示了我们方法的有效性，我们首次获得了一个具有显着采样效率的 Boltzmann 生成器，而不依赖于定制的内部坐标特征选取。

    Jun, 2023

  • 随机正常化流

    提出了随机归一化流的概念，它是一种在机器学习和统计力学领域中解决概率分布采样问题的方法，具有较快的采样效率和较强的表示能力。

    Feb, 2020

  • 连续时间流用于高效推理和密度估计

    本文介绍了连续时间流（CTF）的概念，这是一种能够渐进地接近目标分布的基于扩散的方法。相对于常规的 normalizing flows 和 GANs 模型，CTFs 能够在一个框架中实现高效率的推理和基于大量未标记数据的密度估计，并且可以在其中采用一种新的分布匹配技术。实验结果表明，所提出的 CTF 框架较之相关技术具有更良好的性能。

    Sep, 2017

  • 归一化流的变体和放宽

    通过结合其他生成模型类别的方面，如 VAEs 和基于分数的扩散，放宽了 NFs 的严格双射约束，从而实现了表达能力、训练速度、样本效率和似然可追踪性的平衡。

    Sep, 2023