本文提出了一种改进的变分共识蒙特卡洛算法,该算法优化聚合函数以从分布中获得更好的近似目标,并展示了在三个推理任务中的优越性,实验结果表明,在一些情况下,改进后的算法较串行 MCMC 更快而且相对误差降低幅度高达 92%。
Jun, 2015
本研究提出了一种使用 Hamiltonian Monte Carlo 算法中的 MCMC 步骤来改善后验分布逼近的方法,并通过实验结果证明了这种方法的理论优势和性能改进。
Sep, 2016
提出了一种结合了变分推断和蒙特卡罗方法的新型推断算法,它通过在变分近似中引入一步或多步 MCMC 来生成具有随机辅助变量的后验分布近似,并通过在快速后验分布逼近和精度之间进行权衡提供了更好的灵活性和准确性。
Oct, 2014
本文探讨不同近似推断方法(Markov chain Monte Carlo 和变分推断)的优缺点,并提出一种分布来衡量它们之间的差距,其示例介绍了如何从这个分布中采样,以便在现有方法(基于 Langevin 动力学和随机梯度变分推断)之间进行加权插值。
Jun, 2017
本文介绍了一种新型的高效样本推断框架,变分贝叶斯蒙特卡罗(VBMC),可用于难以处理的黑盒似然的后验分布和模型评估。该方法结合了变分推断和基于高斯过程的主动采样贝叶斯积分,并在合成和实际数据的测试中表现出很好的性能。
Oct, 2018
本文介绍一种基于 Markov chain Monte Carlo 算法的新型模拟算法,具有高效采样复杂分布的性能,并介绍一种方法学和理论框架,证明了边际分布的收敛性和大数定律成立的条件, 并且具有一定的泛化性,适用于目标分布为非平稳分布的情况。
Mar, 2012
本文在变分推理中提出了一种新的逼近分布族:变分顺序蒙特卡罗(VSMC)族,并显示了如何在变分推理中优化它,从而将变分推理和顺序蒙特卡罗相结合,提供了灵活,准确且强大的贝叶斯推理。我们展示了它在状态空间模型,金融数据随机波动模型以及大脑神经电路的深度马尔可夫模型上的实用性。
May, 2017
本文提出了一种通用方法来证明分数后验变分近似的集中性,应用于矩阵补全和高斯 VB 两个例子,弥补了变分贝叶斯方法在理论方面的不足。
介绍了一种新的算法,该算法通过再参数化、马尔可夫链蒙特卡罗和变分方法相结合,构建了一种非常灵活的隐式变分分布,避免了计算 Log 密度比率,因此易于适用于任意连续且可微模型,并且演示了拟合香蕉形状分布和训练变分自动编码器的应用。
Aug, 2017
用一种新的非参数泛化逼近方法代替 VI,包含了一种 Langevin-type 算法,其中一部分潜变量是从 Markov 链的早期样本中平均的,以控制地打破统计相关性,从而使链更快混合。通过在 ResNet-20 上对 CIFAR-10,SVHN 和 FMNIST 进行测试,我们发现与 SG-MCMC 和 VI 相比,在收敛速度和 / 或最终准确性方面都有所提高。
Jul, 2021