Nov, 2017

生成模型潜空间分布保持操作的最优输运映射

HTML
PDF
TL;DR本文介绍了使用分布匹配传输映射来确保潜在空间操作保留先前分布并实现更高质量样本的方法。
发现论文，激发创造
  • 生成网络的潜空间优化

    本文介绍了生成对抗网络的成功因素，并提出“生成潜在优化”框架来训练深度卷积生成器，实现了可视化合成、样本插值等功能，同时不需要对抗优化方案。

    Jul, 2017

  • 变分推断中的分布匹配

    本文揭示了Variational Autoencoders (VAEs)的局限性，它们无法稳定地学习潜在空间和可见空间中的边缘分布，因为学习过程是通过匹配条件分布进行的。同时，文章通过大规模的评估VAE-GAN混合模型并分析类概率估计对分布学习的影响，得出VAE-GAN混合模型在可扩展性、评估和推理方面比VAE更加困难，无法提高GAN的生成质量。

    Feb, 2018

  • 熵生成对抗网络与变分自编码器相遇：计算GAN样本似然的统计方法

    通过构建一种显式的概率模型，将沃瑟斯坦GANs与熵正则化视为基于变分下界的生成模型，从而使得GANs和VAEs之间建立了有理论支持的联系。同时，作者还在多个数据集上计算了GANs的似然统计量，验证了该理论结果。

    Oct, 2018

  • 使用生成对抗网络的可伸缩非平衡最优输运

    本文介绍一种基于生成对抗网络的可伸缩的非平衡优化输运方法，该方法可以同时学习输运映射和缩放因子，以最优的代价推动源测量到目标测量，并提供了理论证明和数值实验。

    Oct, 2018

  • 对抗计算最优输运映射

    本文介绍了一种新的基于生成对抗网络的优化输运模型，使用$2$-Wasserstein距离度量判别器的目标函数，证明了在训练期间，生成器沿着初始和目标分布之间的$W_2$-测地线走，最终重现出最优映射，在低维和高维连续设置中进行验证，并证明其在图像数据上的性能优于以前的方法。

    Jun, 2019

  • 最优输运映射生成建模

    该研究提出了一种使用Optimal Transport map直接在高维图片空间中进行生成建模的算法，并在图像恢复等任务上验证了其有效性。

    Oct, 2021

  • 通过最优输运理解DDPM潜变量

    研究拟合自然图像分布的传播模型中，VP SDE方法的编码器映射为常规分布的最优传输映射。

    Feb, 2022

  • 基于最优传输的条件采样生成流

    提出了一种非参数生成模型，通过使用三角形状的传输映射来描述目标分布的条件分布，解决了基于参数的偏差和梯度优化器学习这些转换的可靠性问题。

    Jul, 2023

  • 复杂性的重要性：重新思考生成建模的潜空间

    本研究探讨了生成建模中潜在空间选择的最优解以及其确定过程，并提出了一种新的距离度量方法和具体的训练策略来优化潜在空间的选择，进而提高生成效果。

    Jul, 2023

  • 流动地图匹配

    基于动态测量输运的生成模型通过学习常微分方程或随机微分方程，将初始条件从已知基础分布推导到目标分布。我们介绍了流图匹配算法，通过学习潜在常微分方程的双时间流图，得到了一个高效的几步生成模型，其步数可以根据精度和计算成本进行灵活的调节。与扩散模型或随机插值方法相比，流图匹配方法能够以显著降低的采样成本生成高质量样本。

    Jun, 2024