概率程序的延迟抽样和自动 Rao-Blackwell 化
贝叶斯因果推断结合基于序的 MCMC 结构学习和基于梯度的图学习技术,提出了一个有效的因果推断框架,可以推断变量的拓扑次序和父集,限制每个变量的父集数量,可以在多项式时间内精确计算边缘化。使用高斯过程对未知因果机制进行建模,引入 Rao-Blackwell 化方案,通过基于梯度的优化学习因果次序分布,采用顺序推断并结合 Rao-Blackwell 化,能够在具有无标度和 Erdos-Renyi 图结构的线性和非线性加性噪声基准测试中达到最先进的效果。
Feb, 2024
本研究提出了一种新算法,基于随机梯度的变分程序来进行概率编程中的近似推理,特别适用于高度结构化的分布。我们展示了如何自动推导平均场概率程序并优化它们,并证明我们的方法比其他算法提高了推理效率。
Jan, 2013
使用贝叶斯综合技术,通过概率领域专用数据建模语言自动生成概率计算程序进行数据分析、解释和预测,并应用于时间序列数据和多元表格数据的分析,结果表明该技术可以准确推断多个真实世界数据的定性结构,优于标准的数据分析方法。
Jul, 2019
本文提出了一种混合推断算法,能够在可能的情况下使用置信传播计算封闭解,在出现精确计算失败时使用基于采样的顺序蒙特卡洛方法,该算法实现了自动的 Rao-Blackwellization,对于高斯树模型甚至可以实现精确推理。
Dec, 2023
本文分析了得分估计器作为最基础和多功能的变分推理算法,并利用语义学和程序分析中的工具来阐述这个算法在程序中的作用,揭示出算法所做假设的内在局限性,提出了证明这些假设的规则,并用非平凡的连续数学事实来代替假设中的积分要求,最终发展了一种运用静态程序分析来满足假设条件的方法,并应用于 Pyro 中的八个代表性模型中,表明这种方法是可行的。
Jul, 2019
本文介绍了如何利用 Rao-Blackwellisation 技术来提高动态贝叶斯网络的粒子滤波算法的效率,并用两个问题来展示利用 Rao-Blackwellised 粒子滤波进行非平稳在线回归和机器人定位和地图构建的准确性。
Jan, 2013
本研究介绍了基于变量消除和重要性采样的精确和近似概率推理算法,并展示了如何使用 SLPs 股票机器学习的先验分布,包括逻辑程序和贝叶斯网结构。作者还应用 Metropolis-Hasting 算法,构建了一个从后验分布中采样的马尔科夫链,同时讨论了构建后验明确表示的可能性。
Jan, 2013
通过先前推理的后验估计,训练一种判别模型,即神经网络,来逼近最优提议分布,最终在 Anglican 概率编程系统中呈现一种非参数模型中基于数据驱动提议的实例,并表明数据驱动提议可以显著提高推理性能,从而需要更少粒子进行良好的后验估计。
Dec, 2015