基于传输方法的顺序仿真推断

Aug, 2023

A transport approach to sequential simulation-based inference

Paul-Baptiste Rubio, Youssef Marzouk, Matthew Parno

TL;DR我们提出了一种新的基于传输的方法来高效地进行静态模型参数的顺序贝叶斯推断，该策略基于从参数和数据的联合分布中提取条件分布，通过估计结构化的（例如，块三角形）传输映射。这为似然函数及其梯度提供了明确的代理模型，从而使得可以在无模型、在线阶段通过传输映射对后验密度进行基于梯度的表征。该框架非常适用于包括干扰参数以及当正向模型仅被视为黑盒子时的复杂噪声模型的参数估计。在使用导电测量对冰厚度进行表征的上下文中进行了此方法的数值应用。

Abstract

We present a new transport-based approach to efficiently perform sequential Bayesian inference of static model parameters. The strategy is based on the extraction of conditional distribution from the joint distribution of parameters and data, via the estimation of structured (e.g., blo

transport-based approach sequential bayesian inference parameter estimation noise models ice thickness

发现论文，激发创造

使用传输映射的贝叶斯推断的多尺度策略

介绍了一种利用多尺度分解的贝叶斯推断方法，通过利用条件独立性将计算量高的贝叶斯推断问题分解为两个阶段，并利用最优输运映射来描述粗细尺度数据之间的非高斯联合分布。这种方法在地下水流反演问题上展现出了出色的性能。

Jul, 2015

最优映射下的贝叶斯推断

提出了一种新的贝叶斯推断方法，它完全避免了 Markov 链模拟，通过构建将先验度量向前推到后验度量的映射。通过在最优传输理论的上下文中阐述问题，建立了合适的保持度量的映射的存在性和唯一性。我们讨论了各种显式参数化映射的方法，并通过解决优化问题有效地计算映射，利用前向模型的梯度信息（如果可能）。该方法的优点包括产生后验的解析表达式和能够生成任意数量的独立后验样本而无需进行额外的似然评估或正向求解。该方法还通过自动评估边际似然，提供了后验逼近的明确收敛标准，并促进了模型选择。我们还演示了该方法在不同维度的非线性反问题上的准确性和效率。

Sep, 2011

运输图加速的马尔科夫链蒙特卡罗

本文提出了一种新的框架来有效地对复杂概率分布进行抽样，使用最优传输映射和 Metropolis-Hastings 规则相结合，通过连续传输将典型的 Metropolis 提议机制转换为非高斯提议分布，从而更有效地探索目标密度，并在众多参数推断问题中表现出数量级的速度优势。

Dec, 2014

测度传输采样简介

通过构建可决定的耦合（即传输图）来进行测量传输的基本原理，从而能够在质量复杂的概率分布中生成任意多且无权重的样本。该研究探讨了在仅可用非标准化目标密度评估或仅通过有限样本集合而已知目标分布的情况下，如何构建传输。该方法可直接应用于贝叶斯计算和基于随机模拟的广泛问题中。

Feb, 2016

基于最优传输的条件采样生成流

提出了一种非参数生成模型，通过使用三角形状的传输映射来描述目标分布的条件分布，解决了基于参数的偏差和梯度优化器学习这些转换的可靠性问题。

Jul, 2023

通过低维耦合进行推断

通过探究概率分布之间的确定性变换结构，我们建立了目标分布的马尔可夫特性与较低维耦合间的联系，从而解决高维情形下的非高斯图模型推断问题，并提出了相应的方案。

Mar, 2017

使用最优传输学习有向图模型

使用最优传输的方法实现了一个面向许多有向图的参数学习框架，可以灵活地从不完整数据中推断概率有向图模型中的潜在变量。在多个实验中，该方法展示了恢复真实参数和离散表示学习等任务上的优异性能。

May, 2023

聚合数据推理：一种最优传输方法

本文提出了一种新的高效置信传播算法 Sinkhorn belief propagation (SBP)，用于基于大量个体生成的聚合数据的概率图模型的推断问题。该算法基于最优传输理论并具有全局收敛保证，特别适用于隐马尔可夫模型的情况。

Mar, 2020

基于测度传输的密度估计：在生物科学中的应用展望

利用测度传输方法和三角形传输图来支持生物科学研究，在数据稀缺的情况下，通过计算稀疏自适应的传输图，发现这种方法有助于揭示辐射生物学中基因关系和辐射暴露下基因动态的隐藏信息。

Sep, 2023

通过熵传输核心从批次的不成对点转移算子

本文关注的是给定 N 个独立观测块的随机变量 X 和 Y 的联合概率的估计问题，我们推导了极大似然推断的函数形式，提出了一种可计算的逼近方法，并分析了它们的性质。我们证明了一个 Γ- 收敛结果，表明随着观测块的数量 N 趋于无穷大，我们能够从经验逼近中恢复真实的概率密度。通过熵最优输运核，我们建模了一类假设空间，通过最小化推断函数在该假设类上的值，可以近似推断数据中的转移算子。我们通过修改 EMML 算法以考虑额外的转移概率约束来解决所得到的离散最小化问题，并证明了该算法的收敛性。概念验证示例展示了我们方法的潜力。

Feb, 2024