Aug, 2023

条件分布的 Wasserstein 几何生成器

PDF
TL;DR基于统计距离定义的度量空间，我们推导出了条件分布的 Wasserstein 距离的可判定上界，为学习条件分布打下了理论基础。基于该结果，我们提出了一种新的条件生成算法，其中条件分布完全由统计距离定义的度量空间来刻画。我们采用最优传输理论来设计了 Wasserstein 地理发生器，一种学习 Wasserstein 地理的条件生成器。该方法既学习了观测域的条件分布，也学习了它们之间的最优传输映射。给定两个观测域标签之间 Wasserstein 地理上的条件分布，可以预测未观测到的中间域的条件分布。在以光照条件作为域标签的人脸图像上的实验证明了该方法的有效性。
conditional distributionswasserstein distanceconditional generation algorithmwasserstein geodesic generatoroptimal transport theory
发现论文，激发创造
  • 基于几何洞见的隐式生成模型

    该研究探讨了几个度量数据分布与隐式模型分布差异的标准，发现这些度量在概率测度空间中引入了不同的几何特性，特别是当参数生成器具有非凸参数化时，$1$-Wasserstein 距离能够实现惊人的近似全局收敛保证。

    Dec, 2017

  • 有条件的 Wasserstein 距离在贝叶斯 OT 流匹配中的应用

    本文介绍了通过一组有限的耦合来定义条件 Wasserstein 距离，通过松弛条件 Wasserstein 距离来近似速度场，提出了 OT Flow Matching 的扩展，并展示了其在贝叶斯逆问题和条件图像生成中的数值优势。

    Mar, 2024

  • 通过明确的 Wasserstein 最小化，逐步半离散地训练生成网络的方法

    本文提供一种简单的过程，用于将生成网络适配成目标分布，从而实现小的 Wasserstein 距离，从而逐渐将生成器网络调整为目标分布。在 MNIST 和 Thin-8 数据的训练和测试集上，实现了良好的性能。

    Jun, 2019

  • Y - 对角耦合：用条件瓦砾均衡距离近似后验

    逆问题中，通过最小化联合度量与其学习近似度量之间的距离，许多条件生成模型近似后验测度。尽管这种方法对于 KL 散度的情况也控制了后验测度之间的距离，但对于 Wasserstein 距离则不成立。我们引入一种带有一组受限耦合的条件 Wasserstein 距离，它等于后验分布的期望 Wasserstein 距离。通过推导其对偶性，我们找到了正式推动条件 Wasserstein GAN 损失的方法。我们概述了条件 Wasserstein 距离和普通 Wasserstein 距离重合的条件，并且还展示了使用条件 Wasserstein 距离训练时获得有利的后验抽样性质的数值示例。

    Oct, 2023

  • Wasserstein-2 生成网络

    该论文提出了一种新颖的端到端非极小算法，用于训练最优输运映射以逼近 Wasserstein-2 距离，并使用输入凸神经网络和循环一致性正则化来近似 Wasserstein-2 距离，解决了流行的熵和二次正则化中存在偏差和高维度缩放问题的不足，并在诸多任务上进行了实验评估。

    Sep, 2019

  • Wasserstein 生成回归

    提出一种新的非参数回归和条件分布学习的统一方法，该方法可以通过生成学习框架同时估计回归函数和条件生成器，使用深度神经网络模型来构建条件生成器，并能够处理多元结果和协变量问题，可以用于构建预测区间，并提供了理论保证以及在模拟和真实数据上的数值实验结果。

    Jun, 2023

  • 切片瓦瑟斯坦生成模型

    该论文介绍了一种新的方法，使用少量参数化正交投影来近似分解高维分布的一维边际分布，以便于在生成式框架中实现深度学习。研究表明，该方法在标准图像综合基准和高分辨率图像和视频生成方面表现出优越性和最先进性。

    Apr, 2019

  • 切片瓦瑟斯坦生成模型

    本研究介绍了基于深度学习的一种小批量近似方法，用于在自动编码器和生成式对抗网络等现代生成模型中实现切片 Wasserstein 距离，以便在无监督情况下实现高分辨率图像和视频的生成，表现为当代最佳水平。

    Jun, 2017

  • 基于 Wasserstein 分布鲁棒优化的类别条件域泛化

    本文介绍一种基于分布鲁棒优化的分类器，在 Wasserstein 球内最优化条件分布的最坏情况下，增强条件分布领域泛化的鲁棒性，并利用迭代算法自动学习 Wasserstein 球半径，实验表明该方法比传统领域泛化方法在未知目标领域中表现更好。

    Sep, 2021

  • 使用 Wasserstein 度量的数据集精馏

    利用 Wasserstein 距离进行数据集简化，通过嵌入合成数据到预训练分类模型的特征空间进行分布匹配，实现了数据集简化的新的最先进性能。

    Nov, 2023