本文综述了变分推断中的最新趋势,介绍了标准的均值场变分推断,然后回顾了最近的进展,包括可扩展的 VI,通用的 VI,准确的 VI 以及摊余的 VI,并提供有关未来研究方向的总结。
Nov, 2017
本文通过机器学习中的变分推断方法近似计算难以计算的概率密度,特别地,本文对变分推断的思想和现代 VI 研究中的重要问题进行了全面的讨论。
Jan, 2016
本研究开发了基于随机变分推断的可伸缩算法,用于逼近后验概率分布,并且针对一类大规模的概率模型进行了技术开发;对两个概率主题模型进行了演示并应用于大量文献数据的分析,其中包括自然杂志、《纽约时报》和维基百科,结果表明随机变分推断可轻松处理大型数据集并优于传统变分推断,并且表明贝叶斯非参数主题模型优于参数主题模型;因此基于随机变分推断的算法可以将复杂的贝叶斯模型应用于大规模的数据集。
Jun, 2012
通过大规模实验,我们展示了变分推断是 GARCH-like 模型中贝叶斯学习的一种可靠且具有竞争力的方法,证明了它是一种吸引人的、相当精确且可行的替代蒙特卡洛采样的方法。
Oct, 2023
本篇论文研究、应用和优化混合模型和变化推理等技术对贝叶斯统计学、计算生物学和自然语言处理等多个领域的贡献,并研究证明了可变组成元素数量的情况下,情形近似的集中性,以及证明了这种多次证明技术确实是有效的。
May, 2018
提出了一种结合了变分推断和蒙特卡罗方法的新型推断算法,它通过在变分近似中引入一步或多步 MCMC 来生成具有随机辅助变量的后验分布近似,并通过在快速后验分布逼近和精度之间进行权衡提供了更好的灵活性和准确性。
Oct, 2014
本文介绍了一种基于随机变分推理 (Variational Inference) 的学习算法,可以为存在潜变量的、具有难以处理的后验分布的连续概率模型提供有效的推理和学习方法,特别是在大型数据集下具有较好的表现,且已经在实验上得到了验证。
Dec, 2013
本文提出了一种名为可变预测的方法,该方法可通过使用可变约束直接学习预测分布的可变近似,避免了后验边缘化的计算成本,并在一个玩具实例上演示了该方法。
Jul, 2023
本文提出了一种通用方法来证明分数后验变分近似的集中性,应用于矩阵补全和高斯 VB 两个例子,弥补了变分贝叶斯方法在理论方面的不足。
Jun, 2017
本文介绍了一种新型的高效样本推断框架,变分贝叶斯蒙特卡罗(VBMC),可用于难以处理的黑盒似然的后验分布和模型评估。该方法结合了变分推断和基于高斯过程的主动采样贝叶斯积分,并在合成和实际数据的测试中表现出很好的性能。
Oct, 2018