基于条件最优传输的高效神经网络方法和贝叶斯推断应用

Oct, 2023

基于条件最优传输的高效神经网络方法和贝叶斯推断应用

Efficient Neural Network Approaches for Conditional Optimal Transport with Applications in Bayesian Inference

Zheyu Oliver Wang, Ricardo Baptista, Youssef Marzouk, Lars Ruthotto, Deepanshu Verma

TL;DR我们提出了两种神经网络方法来近似求解静态和动态条件优化传输问题（COT），这两种方法能够对条件概率分布进行抽样和密度估计，在贝叶斯推断中是核心任务。我们的方法将目标条件分布表示为可处理的参考分布的转换，因此属于测度传输框架。这些方法利用了 COT 问题的静态和动态公式的结构，通过神经网络来参数化 COT 映射以提高可扩展性。我们通过使用基准数据集和贝叶斯反问题将其与最先进的方法进行比较，证明了它们的有效性和效率。

Abstract

We present two neural network approaches that approximate the solutions of static and dynamic conditional optimal transport (COT) problems, respectively. Both approaches enable sampling and density estimation of

neural network conditional optimal transport bayesian inference numerical algorithms benchmark datasets

发现论文，激发创造

基于模拟自由流动的动态条件最优传输

我们研究了条件最优传输的几何性质并证明了一种推广了 Benamou-Brenier 定理的动力学表述。利用这些工具，我们提出了一种无需模拟的基于流的条件生成建模方法。我们的方法通过三角形条件最优传输方案将任意源分布与指定目标分布相耦合。我们借鉴流匹配的框架，通过近似由该条件最优传输方案诱导的测度测地线路径来训练条件生成模型。我们的理论和方法可在无限维设置中应用，非常适用于逆问题。在实证方面，我们将我们提出的方法应用于两个图像转换任务和一个无限维贝叶斯逆问题。

Apr, 2024

有监督条件蒙日图训练

使用 CondOT，一种多任务学习方法，结合上下文变量和部分输入凸的神经网络，可以在给定单细胞的基因或治疗干预效果的情况下，推断出其任意组合的效果。

Jun, 2022

神经最优传输

该研究介绍了一种基于神经网络的算法，用于计算强和弱输运成本的最优输运图和计划，并证明了神经网络是概率分布之间传输计划的通用逼近器。通过在玩具示例和非成对图像翻译上评估我们的最优输运算法的性能。

Jan, 2022

基于最优传输的条件采样生成流

提出了一种非参数生成模型，通过使用三角形状的传输映射来描述目标分布的条件分布，解决了基于参数的偏差和梯度优化器学习这些转换的可靠性问题。

Jul, 2023

大规模最优输运和映射估计

本文提出了一个新颖的两步方法来解决基本问题，即从一个分布学习到另一个分布的最优映射，首先我们学习一个最优传输（OT）方案，其次我们估计 Monge 映射作为一个深度神经网络，演示了我们的建议方法在域适应和生成建模方面的应用。

Nov, 2017

生成熵神经最优传输在空间内和空间间的映射

学习度量到度量映射是机器学习中的一项关键任务，而神经最优输运方法（Neural OT）结合了神经网络模型和最优输运理论，将最优输运作为归纳偏置，并通过实验表明其在单细胞生物学中具有实用性。

Oct, 2023

COT-GAN：通过因果最优传输生成序列数据

使用因果最优传输（COT）思想定义的 COT-GAN 算法应用于产生顺序数据，使用改进的 Sinkhorn 差异度量学习鉴别器的代价函数，并包括增加的时间因果约束和熵惩罚项。实验表明，该算法在产生低维和高维时间序列数据时具有很好的效率和稳定性。

Jun, 2020

共同优化传输

提出一种名为 COOT 的新型最优输运问题，它同时优化两个输运映射，用于异质域适应和聚类数据总结，相比现有的方法，COOT 表现出更高的性能。

Feb, 2020

神经（熵）最优输运的生成条件分布

学习条件分布是具有挑战性的，因为所需的结果不是单个分布，而是与协变量的多个实例对应的多个分布。我们引入一种新颖的神经自由最优输运方法，旨在有效地学习条件分布的生成模型，特别是在样本量有限的情况下。我们的方法依赖于两个神经网络的极小极大训练：一个生成网络参数化条件分布的逆累积分布函数，另一个网络参数化条件 Kantorovich 势。为防止过拟合，我们通过惩罚网络输出的 Lipschitz 常数来正则化目标函数。我们在真实数据集上的实验结果显示了我们的算法相对于最先进的条件分布学习技术的有效性。我们的实现可以在 https URL 找到。

Jun, 2024

循环一致的半耦合神经非平衡最优输运

本文提出了一种名为 NubOT 的神经非平衡最优输运 (OT) 方案，针对单细胞生物学领域中在不同时间点上获取的未配对分布或人群的比较问题，通过半耦合形式学习数据分布之间的最优耦合，解决了传统 OT 中质量守恒假设在人群大小变化时的不平衡场景下失效的问题，并应用到肿瘤细胞药物敏感性预测中，获得了明显的优化效果。

Sep, 2022