Apr, 2024

通过熵正则化扩展均场变分推断的理论与计算

PDF
TL;DR我们提出了一种新的变分推断方法 $\Xi$- 变分推断 ($\Xi$-VI)，通过熵正则化扩展了朴素均值场。$\Xi$-VI 与熵最优输运问题密切相关，并从计算高效的 Sinkhorn 算法中受益。我们展示了 $\Xi$- 变分后验能够有效恢复真实的后验依赖关系，其中依赖关系由正则化参数进行加权。我们分析了参数空间维度对 $\Xi$- 变分近似精度的影响以及它对计算的影响，从而粗略刻画了 $\Xi$-VI 中的统计计算权衡。我们还研究了 $\Xi$-VI 的经验性质，并建立了关于一致性、渐近正态性、高维渐近性和算法稳定性的结果。我们提供了使用该方法实现多项式时间近似推断的充分条件。最后，我们在模拟和真实数据上展示了 $\Xi$-VI 相对于均值场变分推断的实际优势。
variational inferenceentropic regularization$\xi$-variational inferenceparameter spaceapproximate inference
发现论文，激发创造
  • 变分推断的进展

    本文综述了变分推断中的最新趋势，介绍了标准的均值场变分推断，然后回顾了最近的进展，包括可扩展的 VI，通用的 VI，准确的 VI 以及摊余的 VI，并提供有关未来研究方向的总结。

    Nov, 2017

  • 变分推断：统计学家综述

    本文通过机器学习中的变分推断方法近似计算难以计算的概率密度，特别地，本文对变分推断的思想和现代 VI 研究中的重要问题进行了全面的讨论。

    Jan, 2016

  • 变分推理，高斯混合模型，贝叶斯机器学习

    通过优化固定协方差和常值权重的高斯混合模型，将变分推断（Variational Inference）视为最小化平滑相对熵，研究其在非高斯情况下的理论性质，包括梯度下降和粒子系统优化。

    Jun, 2024

  • 通过最优输运协调上升变分推断用于对数凹测度的收敛性

    均场变分推断（VI）是找到相对熵意义下到给定的高维概率测度 $\rho$ 最接近的分布（分解测度）的问题。本文证明了在对数凹密度 $\rho$ 情况下，均场变分推断 CAVI 的收敛性。若附加条件 $\log \rho$ 具有 Lipschitz 梯度，则收敛速度为线性，若 $\rho$ 也是强对数凹的，则收敛速度为指数级。我们的分析始于观察到当 $\rho$ 为对数凹时，均场 VI 在优化输运的意义下是凸的，从而使我们能够借鉴来自欧几里得空间上坐标下降算法的优化文献中的技术。

    Apr, 2024

  • 关于均值场变分推断的表现

    本论文提出了一种基于 Wasserstein 空间梯度流、Fokker-Planck 方程和扩散过程的分析 mean field variational inference (MFVI) 算法的框架，旨在解决 MFVI 算法中的收敛问题。研究表明，此框架可以保证多种解决变分推断问题的算法的收敛性。

    Oct, 2022

  • 提升变分推断

    提出了一种新的算法 Boosting Variational Inference（BVI），它基于渐进的计算，能够捕捉多模态、一般后验协方差和非标准后面形状，并且使用一个更灵活的逼近族，包括所有可能的有限混合一个参数基础分布（例如高斯）。

    Nov, 2016

  • 坐标上升变分推断的收敛性

    本文基于函数分析和优化工具，对变分推断 (VI) 方法中的坐标上升变分推断 (CAVI) 算法进行收敛性分析，提出基于广义相关性的算法收缩速率测度，并在多个实例中应用了该理论，得出了算法收缩速率的明确上界。

    Jun, 2023

  • 粒子半隐式变分推断

    该研究提出了一种名为粒子变分推理（PVI）的新方法，通过粒子近似欧氏 - 瓦塞尔斯坦梯度流，利用经验度量来近似描述最优混合分布，并直接优化证据下界（ELBO），无需对混合分布做参数化假设。实证结果表明，PVI 在各种任务中表现出色，并对相关的自由能函数的梯度流行为进行了理论分析，证明了解的存在性和唯一性以及混乱传播结果。

    Jun, 2024

  • 提升黑盒变分推断

    本文提出了一种改进算法，基于强化版 Variational Inference 方法，用于更有效地近似概率密度，以此实现贝叶斯统计中重要的求解任务，提出的改进方法叫做 Boosting VI。通过对算法的理论分析，证明了算法的收敛性和可行性，并且经过实验验证，该算法在实际应用中能够取得不错的效果。

    Jun, 2018

  • 广义变分推断：推导新后验分布的三个参数

    提出了一种基于优化的贝叶斯推论的新颖泛化方法，称为三原则规则，并通过 GVI（广义变分推论）的探索得出应用，包括提高了贝叶斯神经网络和深高斯过程的预测性能和适当的边际。

    Apr, 2019