层级变分模型

Nov, 2015

Hierarchical Variational Models

Rajesh Ranganath, Dustin Tran, David M. Blei

TL;DR通过引入分层变分模型来规范表达力强的变分分布，以提高黑盒变分推断的计算效率和可扩展性，并通过在深度定性潜变量模型中进行了研究来实现更高的后验品质。

Abstract

Black box variational inference allows researchers to easily prototype and evaluate an array of models. Recent advances allow such algorithms to scale to high dimensions. However, a central question remains: How to specify an expressive variational distribution that maintains efficient

variational inference hierarchical variational models latent variables expressive variational distributions posterior

发现论文，激发创造

黑匣子变分推断

本文介绍了一种基于蒙特卡洛采样的随机优化算法，可用于快速逼近复杂潜在变量模型的后验概率分布，避免了繁琐的模型推导过程，同时探索了多种长期医疗数据模型。

Dec, 2013

重要性加权层级变分推断

通过引入一种新的变分上界家族，我们提出了一种用于层次模型的变分下界族，使得我们可以使用更具表现力的近似后验概率，并在一系列实验中证明了所提出的方法的卓越性能。

May, 2019

结构化黑盒变分推断用于潜在时间序列模型

介绍了一种类似于前向 - 后向算法的 BBVI 算法，它可以使得我们高效地从变分分布中进行采样，并且可以估计 ELBO 梯度。在动态词嵌入模型上的结果证明了我们方法的有效性。

Jul, 2017

变分异方差波动模型

本研究提出了一种名为 VHVM 的端到端神经网络体系结构，能够对多元金融时间序列中的异方差行为进行建模，并在多元外汇数据集上展示了其对比 GARCH 和 SV 模型的有效性。

Apr, 2022

自动编码变分贝叶斯

本文介绍了一种基于随机变分推理 (Variational Inference) 的学习算法，可以为存在潜变量的、具有难以处理的后验分布的连续概率模型提供有效的推理和学习方法，特别是在大型数据集下具有较好的表现，且已经在实验上得到了验证。

Dec, 2013

状态空间模型的黑箱变分推断

通过应用随机变分推断方法，提出一种结构化高斯近似后验，用于近似后验更普遍、非线性的潜变量生成模型，且相较于特定非共轭模型的定制化变分方法具有更好的表现；该方法旨在用于潜在动态结构模型的黑盒近似推断。

Nov, 2015

变分推断的进展

本文综述了变分推断中的最新趋势，介绍了标准的均值场变分推断，然后回顾了最近的进展，包括可扩展的 VI，通用的 VI，准确的 VI 以及摊余的 VI，并提供有关未来研究方向的总结。

Nov, 2017

非对称变分自编码器

提出一种利用辅助变量来拓展变分分布家族的框架，通过神经网络来构建复杂的概率混合分布模型，以增强变分推断模型的灵活性和效果，并在密度估计任务上进行了实证评估。

Nov, 2017

随机变分推断

本研究开发了基于随机变分推断的可伸缩算法，用于逼近后验概率分布，并且针对一类大规模的概率模型进行了技术开发；对两个概率主题模型进行了演示并应用于大量文献数据的分析，其中包括自然杂志、《纽约时报》和维基百科，结果表明随机变分推断可轻松处理大型数据集并优于传统变分推断，并且表明贝叶斯非参数主题模型优于参数主题模型；因此基于随机变分推断的算法可以将复杂的贝叶斯模型应用于大规模的数据集。

Jun, 2012

文本生成的隐式深度潜变量模型

本文提出了一种基于采样的变分分布表示方法，用于自然语言生成中 deep latent variable models，并通过最大化互信息的正则化来解决 posterior collapse 问题，进一步发展了 VAE，并在多个文本生成场景中证明了其有效性和通用性。

Aug, 2019