May, 2018

Wasserstein 变分推断

PDF
TL;DR本文介绍了基于 Wasserstein 变分推断的一种新的近似贝叶斯推断方法，该方法使用了包括 f - 分布和 Wasserstein 距离在内的一种新的差异度量方式，通过 Sinkhorn 迭代，该技术可以获得非常稳定的无似然训练方法，并且可以用于隐式分布和概率编程，同时应用于多种自编码器实验中，对其鲁棒性和性能进行了测试。
wasserstein variational inferenceoptimal transport theoryautoencodersprobabilistic programsf-divergences
发现论文，激发创造
  • 分片瓦烧斯坦变分推理

    本研究提出了一种新的变分推断方法，通过最小化切片 Wasserstein 距离来近似非规范化分布并使用神经网络对变分分布进行逼近。我们还提供了理论性分析，并用合成和实际数据进行了实验验证。

    Jul, 2022

  • 变分推理与 Wasserstein 梯度流之间的桥梁

    本文介绍了变分推断和 Wasserstein 梯度流之间的联系，通过将 Bures-Wasserstein 梯度流转化为欧几里德梯度流，并使用路径导数梯度估计器生成梯度场，同时提供了一种新的梯度估计方法适用于 $f$-divergences 的拓展。

    Oct, 2023

  • 变分推断中的变分参数空间上的 Wasserstein 梯度流

    Variational inference (变分推断) can be optimized using Wasserstein gradient descent methods to improve efficiency and alignment of variational parameters with the true posterior.

    Oct, 2023

  • 斯坦变分梯度下降：一种通用贝叶斯推断算法

    本文提出了用于优化的通用变分推理算法，它是梯度下降法的一种自然补充，可以通过一种函数梯度下降来最小化 KL 距离，从而迭代地传输一组粒子以匹配目标分布。经过在各种真实世界模型和数据集上的实证研究，我们的方法与现有的最先进的方法相竞争。我们方法的推导基于一个新的理论结果，它连接了平滑转换下 KL 距离的导数与 Stein's 恒等式以及最近提出的核化的 Stein 距离，这也具有独立的兴趣。

    Aug, 2016

  • Wasserstein 梯度流的近似推断

    该研究论文介绍了一种基于 Wasserstein 梯度流的扩散过程的新近似推理方法，该方法直接在连续函数空间中计算 Wasserstein 梯度流，并具有可比拟的过滤能力。

    Jun, 2018

  • 变分 Wasserstein 问题的平滑双重方法

    该研究通过引入熵平滑，将 Carlier 等人（2014）所提出的 Wasserstein 变分问题的对偶式正则化，从而处理了涉及 Wasserstein 距离的计算问题，得到了更容易实现和数值更稳定的优化问题，应用于计算 Wasserstein 重心和空间规则化函数的梯度流。

    Mar, 2015

  • 运输，变分推断和扩散：在 退火流和薛定谔桥 的应用

    该论文探讨了最优输运和变分推理之间的关系，并提出了一系列采样和生成建模的新技术，其中涉及随机微分方程和 Girsanov 转换等内容。

    Jul, 2023

  • 变分 Wasserstein 聚类

    本文提出一种基于最优输运的聚类方法，它通过使用变分原理求解最优输运，并研究使用力图来将任意域聚合为固定数量的聚类。通过迭代地将聚类中心驱动到目标域中，并通过调整力图来保持最小聚类能量，从而同时追求聚类和聚类中心与目标域之间的 Wasserstein 距离。作者在合成和真实数据的领域自适应、重新网格化和表示学习方面演示了该方法的应用。

    Jun, 2018

  • Wasserstein 空间中的统计数据分析

    本文介绍利用 Wasserstein 距离和最优输运理论分析数据集中随机概率测度（如多重直方图或点云）的最新统计学贡献，并重点介绍在 Wasserstein 空间中使用重心和测地线 PCA 的好处，用于学习数据集中几何变化的主要模式。同时，本文讨论了与统计优化输运相关的一些研究方向。

    Jul, 2019

  • 在 Bures-Wasserstein 空间中通过 JKO 实现前向后向的高斯变分推断

    本文提出了正向反向高斯变分推断算法，利用 KL 散度的结构，能够有效逼近高斯目标分布，得到了最新颖的收敛保证。

    Apr, 2023