本文综述了变分推断中的最新趋势，介绍了标准的均值场变分推断，然后回顾了最近的进展，包括可扩展的 VI，通用的 VI，准确的 VI 以及摊余的 VI，并提供有关未来研究方向的总结。

Nov, 2017

本文通过机器学习中的变分推断方法近似计算难以计算的概率密度，特别地，本文对变分推断的思想和现代 VI 研究中的重要问题进行了全面的讨论。

Jan, 2016

本文介绍了利用变分方法进行离散选择模型贝叶斯推断的过程，并且在大规模数据集上，相比马尔可夫蒙特卡罗方法，可以在更小的计算成本下达到相当的精度。

Dec, 2007

本研究开发了基于随机变分推断的可伸缩算法，用于逼近后验概率分布，并且针对一类大规模的概率模型进行了技术开发；对两个概率主题模型进行了演示并应用于大量文献数据的分析，其中包括自然杂志、《纽约时报》和维基百科，结果表明随机变分推断可轻松处理大型数据集并优于传统变分推断，并且表明贝叶斯非参数主题模型优于参数主题模型；因此基于随机变分推断的算法可以将复杂的贝叶斯模型应用于大规模的数据集。

Jun, 2012

提出了一种结合了变分推断和蒙特卡罗方法的新型推断算法，它通过在变分近似中引入一步或多步 MCMC 来生成具有随机辅助变量的后验分布近似，并通过在快速后验分布逼近和精度之间进行权衡提供了更好的灵活性和准确性。

Oct, 2014

本文提出了一种名为可变预测的方法，该方法可通过使用可变约束直接学习预测分布的可变近似，避免了后验边缘化的计算成本，并在一个玩具实例上演示了该方法。

Jul, 2023

本文介绍了一种新型的高效样本推断框架，变分贝叶斯蒙特卡罗（VBMC），可用于难以处理的黑盒似然的后验分布和模型评估。该方法结合了变分推断和基于高斯过程的主动采样贝叶斯积分，并在合成和实际数据的测试中表现出很好的性能。

Oct, 2018

这篇论文介绍了一种新型的变分推断方法 —— 野生变分推断方法，其可以不需要可推导概率密度函数，而将随机梯度 Langevin 动力学 (SGLD) 作为推断网络，从而实现对 SGLD 步长的自动调整，并取得显著的改进效果。

Nov, 2016

通过优化固定协方差和常值权重的高斯混合模型，将变分推断（Variational Inference）视为最小化平滑相对熵，研究其在非高斯情况下的理论性质，包括梯度下降和粒子系统优化。

Jun, 2024

本文研究了基于 boosting 的变分推断算法在优化视角下的收敛性质及其与经典 Frank-Wolfe 算法之间的联系，提出了收敛的充分条件，明确了算法的收敛速率和简化方法，并在概率模型和理论特性之间架起了桥梁。

Aug, 2017