Aug, 2019

$L_2$ 正则输运正则化的势流生成器

PDF
TL;DR本研究提出了具有 $L_2$ 优化输运规则的潜在流生成器，可轻松集成到包括不同版本的 GAN 和基于流的模型在内的各种生成模型中。研究表明潜在流生成器在二维问题中的正确性和鲁棒性，并阐明了 $L_2$ 优化输运规则对 “接近度” 概念的影响。此外，我们展示了在 MNIST 数据集和 CelebA 数据集的无配对训练数据图像转换任务中潜在流生成器的有效性。
发现论文，激发创造
  • 基于最优传输的条件采样生成流

    提出了一种非参数生成模型，通过使用三角形状的传输映射来描述目标分布的条件分布，解决了基于参数的偏差和梯度优化器学习这些转换的可靠性问题。

    Jul, 2023

  • 增强规范流：填补生成流和潜变量模型之间的差距

    本文提出了一种新的生成流家族，它可以改善表达能力而不会显著增加抽样和似然下界评估的计算成本，并且可以理论上证明所提出的流可以近似于哈密顿 ODE 作为一种通用的传输映射，在流模型建模的标准基准测试中表现出领先的性能。

    Feb, 2020

  • 使用正则化最优传输训练 GAN 的收敛性和鲁棒性

    本文通过基于正则化最优传输的平滑 Wasserstein GAN 公式实现梯度信息的获取，从而实现对该目标函数的一阶优化，为一类生成对抗网络优化算法建立了理论收敛保证，且仅需要解决鉴别器问题以近似最优。该算法计算效率高，应用于 MNIST 数字以及 CIFAR-10 图像数据集相比其他同等架构和计算能力的算法生成的图像效果显著。

    Feb, 2018

  • OT-Flow 样本生成的收敛性分析

    深度生成模型 OT-Flow 的收敛性研究及蒙特卡洛方法在训练中的应用

    Mar, 2024

  • 凸势流：具有最优输运和凸优化的通用概率分布

    本文介绍了由 Optimal Transport 理论激发的、参数化反演模型的自然和有效表示 ——Convex Potential Flows (CP-Flow)，提供了一个新的梯度估计器以最大限度地提高模型效果，并证明了 CP-Flows 是通用密度近似器，且在 OT 意义下是最优的。

    Dec, 2020

  • 正则性作为正则化：Brenier 式平滑和强凸势能在最优输运中的应用

    本研究借鉴正则化理论，提出算法，利用二阶 Wasserstein 距离和 Lipschitz 性质，通过解决优化问题来得到光滑的 Brenier 凸函数，实现了快速而准确的图像传输。

    May, 2019

  • 线性控制神经 ODE 中将正规化流视为最优传输映射的近似

    通过深度神经网络构建概率测度之间的可逆传输映射，本文考虑了恢复绝对连续测度之间 $W_2$- 最优传输映射作为线性控制神经 ODE 流的问题，并提出了一种基于离散最优耦合的离散控制问题，以近似求解最优传输映射。最后，通过 Pontryagin 最大值原理，提出了一种迭代数值方法用于实际计算近似最优传输映射的算法。

    Nov, 2023

  • 切片 - 瓦瑟斯坦流：通过最优输运和扩散的非参数生成建模

    本研究提出了一种基于梯度流的、无需参数的算法，用于学习复杂数据集的潜在分布和从中进行抽样。该算法是建立在隐式生成建模 (IGM) 与最优输运之间的联系理论基础上，并通过泛函优化问题的方式得以实现。通过梯度流和随机微分方程的联系，该算法既能高效地解决优化问题，还提供了理论分析和有限时间误差保证。实验结果表明，该算法能够成功地捕捉不同类型的数据分布结构。

    Jun, 2018

  • 通过 Wasserstein 空间中的近端梯度下降实现基于流的生成模型的收敛

    通过使用渐进流模型 JKO 流模型，在生成数据方面提供了理论保证，证明了其数据生成能力的 KL 保证在一些条件下的收敛速度为 O (ε^2)。

    Oct, 2023

  • 最优传输与投影寻踪下的时间相关密度生成建模

    本文提出了一种用于生成模型的廉价替代方案，该方案使用投影优化器以及输运样条来加入连续的样本并插值演变密度，比起基于时间而条件的现有流模型具有高度的竞争力，适用于一系列高维度问题。

    Apr, 2023