Swift:概率编程语言的编译推断
本书介绍了概率编程的基础和技术,主要包括概率编程语言的设计和构建、基础推理算法和高阶概率编程语言、概率编程与可微分编程的交叉应用,尤其是深度概率编程系统的设计与语言特性对其的影响。
Sep, 2018
通过创造性地利用进程、分叉、互斥和共享内存等标准操作系统功能,可以在任何编程语言中实现像顺序蒙特卡罗和粒子马尔科夫链蒙特卡罗这样的前向推理技术,我们定义了一个名为 Probabilistic C 的概率规划语言中间表示语言,它本身可以通过标准编译器编译成机器代码并链接到操作系统库中,生成一个高效、可扩展、可移植的概率规划编译目标,从而为优化概率规划系统打开了一条新的硬件和系统研究路径。
Mar, 2014
我们提出了一种基于组合程序转换的方法,用于支持概率编程语言中的变分推断,该方法能够灵活地处理多个关键问题,包括自动微分、密度累积、跟踪和无偏梯度估计策略。此外,相比于现有的支持变分推断的概率编程语言,我们的设计在用户定义的目标、梯度估计策略和模型、变分族类别方面具有更高的表达能力。
Jun, 2024
本文介绍了基于概率编程中的最新进展,以广阔的概率建模和推断为视角,探讨了概率编程语言如何自动匹配模型和推断方法,强调了模型的结构和形式对这种匹配的至关重要性,并通过 Birch 进行实例演示。
Oct, 2018
该研究介绍了一种使用深度神经网络在概率编程模型中分摊推断成本的方法,并将深度学习与概率编程方法的优势相结合。这种名为 “编译推断” 的方法将用通用编程语言编写的概率程序的语义规范转换为用神经网络规范语言表示的训练过的神经网络,从而实现了原始模型的近似推断。
Oct, 2016
本文分析了得分估计器作为最基础和多功能的变分推理算法,并利用语义学和程序分析中的工具来阐述这个算法在程序中的作用,揭示出算法所做假设的内在局限性,提出了证明这些假设的规则,并用非平凡的连续数学事实来代替假设中的积分要求,最终发展了一种运用静态程序分析来满足假设条件的方法,并应用于 Pyro 中的八个代表性模型中,表明这种方法是可行的。
Jul, 2019
提出一种新型的概率编程框架,通过跨平台的概率执行协议直接连接到现有的大规模模拟器,允许通用推理引擎以语言无关的方式记录和控制模拟器内的随机数,并通过后验推断的高度可解释性来演示其技术应用于粒子物理学,提升推断效率。
Jul, 2018