学习条件分布是具有挑战性的,因为所需的结果不是单个分布,而是与协变量的多个实例对应的多个分布。我们引入一种新颖的神经自由最优输运方法,旨在有效地学习条件分布的生成模型,特别是在样本量有限的情况下。我们的方法依赖于两个神经网络的极小极大训练:一个生成网络参数化条件分布的逆累积分布函数,另一个网络参数化条件 Kantorovich 势。为防止过拟合,我们通过惩罚网络输出的 Lipschitz 常数来正则化目标函数。我们在真实数据集上的实验结果显示了我们的算法相对于最先进的条件分布学习技术的有效性。我们的实现可以在 https URL 找到。
Jun, 2024
本研究提出了一种基于梯度流的、无需参数的算法,用于学习复杂数据集的潜在分布和从中进行抽样。该算法是建立在隐式生成建模 (IGM) 与最优输运之间的联系理论基础上,并通过泛函优化问题的方式得以实现。通过梯度流和随机微分方程的联系,该算法既能高效地解决优化问题,还提供了理论分析和有限时间误差保证。实验结果表明,该算法能够成功地捕捉不同类型的数据分布结构。
Jun, 2018
本文介绍了一种新的基于生成对抗网络的优化输运模型,使用 $2$-Wasserstein 距离度量判别器的目标函数,证明了在训练期间,生成器沿着初始和目标分布之间的 $W_2$- 测地线走,最终重现出最优映射,在低维和高维连续设置中进行验证,并证明其在图像数据上的性能优于以前的方法。
Jun, 2019
本文提出了一种基于得分的生成模型,通过 Langevin 动态学习和采样源数据和目标数据之间的 Sinkhorn 耦合,从而解决大规模最优输运问题。
Oct, 2021
本文介绍了使用分布匹配传输映射来确保潜在空间操作保留先前分布并实现更高质量样本的方法。
Nov, 2017
我们提出了两种神经网络方法来近似求解静态和动态条件优化传输问题(COT),这两种方法能够对条件概率分布进行抽样和密度估计,在贝叶斯推断中是核心任务。我们的方法将目标条件分布表示为可处理的参考分布的转换,因此属于测度传输框架。这些方法利用了 COT 问题的静态和动态公式的结构,通过神经网络来参数化 COT 映射以提高可扩展性。我们通过使用基准数据集和贝叶斯反问题将其与最先进的方法进行比较,证明了它们的有效性和效率。
Oct, 2023
本文提出了一种用于生成模型的廉价替代方案,该方案使用投影优化器以及输运样条来加入连续的样本并插值演变密度,比起基于时间而条件的现有流模型具有高度的竞争力,适用于一系列高维度问题。
Apr, 2023
我们研究了条件最优传输的几何性质并证明了一种推广了 Benamou-Brenier 定理的动力学表述。利用这些工具,我们提出了一种无需模拟的基于流的条件生成建模方法。我们的方法通过三角形条件最优传输方案将任意源分布与指定目标分布相耦合。我们借鉴流匹配的框架,通过近似由该条件最优传输方案诱导的测度测地线路径来训练条件生成模型。我们的理论和方法可在无限维设置中应用,非常适用于逆问题。在实证方面,我们将我们提出的方法应用于两个图像转换任务和一个无限维贝叶斯逆问题。
Apr, 2024
本文提出了一种称为 TemperFlow 的新方法,通过学习一系列调和分布来逐步接近目标分布,通过传输映射从高维度分布中采样,解决了因目标密度函数不规范且包含孤立模式而产生的巨大挑战,该方法得到了实验的证明和应用。
通过构建可决定的耦合(即传输图)来进行测量传输的基本原理,从而能够在质量复杂的概率分布中生成任意多且无权重的样本。该研究探讨了在仅可用非标准化目标密度评估或仅通过有限样本集合而已知目标分布的情况下,如何构建传输。该方法可直接应用于贝叶斯计算和基于随机模拟的广泛问题中。
Feb, 2016