Nov, 2023

高斯插值流

PDF
TL;DR我们研究了基于高斯降噪的模拟 - free 连续标准化流的良定义性、可微性和唯一性，通过建立高斯插值流的统一框架，我们证明了流速度场的利普希茨正则性、流的存在唯一性，以及流映射和时间反向流映射在多个丰富的目标分布类别中的利普希茨连续性，这也揭示了高斯插值流的自动编码和循环一致性特性。我们还研究了这些流在源分布和速度场扰动中的稳定性，利用二次 Wasserstein 距离作为度量。我们的发现为用于生成建模中的高斯插值流的学习技术提供了宝贵的见解，为使用经验观察进行端到端误差分析的学习 GIFs 提供了坚实的理论基础。
发现论文，激发创造
  • 使用随机插值构建归一化流

    本文提出一种基于连续时间正规化流的生成模型，该流的速度场由时间依赖密度的概率流推断而来，可用于样本生成和密度估计，并可最小化插值密度的路径长度来建立最优传输映射。该方法通过对基于随机微分方程的方法的简化，使生成的流可以以低成本超越传统方法，并可在图像生成等任务上达到较理想的性能。

    Sep, 2022

  • 高斯化流

    本文通过迭代高斯化的过程，提出了一种名为 “高斯化流” 的正态流模型，能够进行高效的似然计算和样本生成，而且具有良好的表达能力，能够捕捉多峰分布，且相较于其他流模型有更好的鲁棒性和泛化能力。

    Mar, 2020

  • 使用动态规范流建模连续随机过程

    本文提出一种新型的正则化流，其基于 Wiener 过程的微分变形，从而获得一个完整的时间序列模型，该模型继承了其基本过程的许多性质，如似然性和边缘效率。此外，我们的连续处理为有独立到达过程的不规则时间序列提供了自然框架，包括直接插值。在合成数据和真实世界数据的一系列实验中，我们证明了该模型相对于变分 RNN 和潜在 ODE 基线的优越灵活性。

    Feb, 2020

  • 平滑归一化流

    本文介绍了一种使用混合变换的规范连续流方法，可应用于计算力和高阶导数所需的平滑密度函数，并可用于分子动力学模拟。

    Oct, 2021

  • 三次样条流

    本文介绍一种基于单调三次 B 样条和 LU 分解的耦合变换正则化流，其在密度估计上表现出与自回归流相衔接的效果。

    Jun, 2019

  • 神经形变非均匀 B 样条流

    本研究提出了可至少连续二阶可微且双 Lipschitz 连续的非均匀 B 样条流，它具有解析反演变换，并应用于解决 Boltzmann 生成器中的力匹配问题，其结果比以前的样条流更好，比平滑归一化流更快。

    Apr, 2023

  • 连续归一化流在概率分布学习中的收敛性

    通过连续归一化流（CNFs）和线性插值，我们研究了采用匹配流目标函数学习概率分布的 CNFs 在从有限随机样本中学习概率分布方面的理论属性，并建立了基于 Wasserstein-2 距离的分布估计器的非渐进误差界。

    Mar, 2024

  • 神经样条流

    本文介绍基于单调分段函数有理二次样条的神经模型流，在保持解析可逆性的同时提高了耦合和自回归变换的灵活性，并展示了神经样条流在密度估计、变分推断和图像生成建模中的相对表现优良。

    Jun, 2019

  • 离散序列的潜在正则化流

    提出了一种基于 VAE 的生成模型，该模型联合训练了基于正则化流的潜在空间分布和到观察到的离散空间的随机映射，解决了直接对离散序列应用正则化流所面临的挑战，并具有可比拟的性能和流灵活性。

    Jan, 2019

  • 概率测度空间中的梯度流采样

    本文研究了基于梯度流的采样方法的设计要素，主要包括能量函数、度量、和用于算法推导的梯度流的数值近似。首先，我们展示了 Kullback-Leibler 散度作为能量函数的独特性质，即由它引导的梯度流与目标分布的标准化常数无关。其次，我们从不变性的角度研究了度量的选择，引入了一种放松的仿射不变性，构建了各种仿射不变的 Wasserstein 和 Stein 梯度流。最后，基于高斯近似的梯度流方法被提出，并与参数变分推断衍生的梯度方法建立了联系，理论和数值上研究了它们的收敛性。

    Oct, 2023