Jul, 2015

概率编程推断的新方法

PDF
TL;DR介绍和证明了一个基于粒子马尔可夫蒙特卡罗的新的推理方法。该方法适用于图灵完备的概率编程语言，支持使用复杂控制流（包括随机递归）的模型的准确推理，并包括来自贝叶斯非参数统计的基元。实验证明，该方法比之前介绍的单一站点 Metropolis-Hastings 方法更有效。
probabilistic programmingparticle markov chain monte carloinferencebayesian nonparametric statisticsstochastic recursion
发现论文，激发创造
  • 标准模型之外的物理研究中高效的概率推理

    提出一种新型的概率编程框架，通过跨平台的概率执行协议直接连接到现有的大规模模拟器，允许通用推理引擎以语言无关的方式记录和控制模拟器内的随机数，并通过后验推断的高度可解释性来演示其技术应用于粒子物理学，提升推断效率。

    Jul, 2018

  • 概率编程中的自动变分推断

    本研究提出了一种新算法，基于随机梯度的变分程序来进行概率编程中的近似推理，特别适用于高度结构化的分布。我们展示了如何自动推导平均场概率程序并优化它们，并证明我们的方法比其他算法提高了推理效率。

    Jan, 2013

  • 概率编程语言的编译目标

    通过创造性地利用进程、分叉、互斥和共享内存等标准操作系统功能，可以在任何编程语言中实现像顺序蒙特卡罗和粒子马尔科夫链蒙特卡罗这样的前向推理技术，我们定义了一个名为 Probabilistic C 的概率规划语言中间表示语言，它本身可以通过标准编译器编译成机器代码并链接到操作系统库中，生成一个高效、可扩展、可移植的概率规划编译目标，从而为优化概率规划系统打开了一条新的硬件和系统研究路径。

    Mar, 2014

  • 概率编程简介

    本书介绍了概率编程的基础和技术，主要包括概率编程语言的设计和构建、基础推理算法和高阶概率编程语言、概率编程与可微分编程的交叉应用，尤其是深度概率编程系统的设计与语言特性对其的影响。

    Sep, 2018

  • 通过概率生成函数的离散模型精确贝叶斯推断：一种概率编程方法

    We introduce an exact Bayesian inference method for discrete statistical models, using a probabilistic programming language that supports both discrete and continuous sampling, and probability generating functions to compute posterior probabilities, expectation, variance, and higher moments automatically and with competitive performance.

    May, 2023

  • 信念网络上一般概率推断的模拟方法

    本文研究一种基于 Monte Carlo 采样的 “前向” 算法家族，用于解决在信念网络上计算概率推理的问题，并提出了几种改进策略以降低后验方差。

    Mar, 2013

  • 非参数的 Involutory Markov Chain Monte Carlo

    我们提出了非参数的纠缠马尔科夫链蒙特卡罗（NP-iMCMC）算法，作为一种构建用于普通概率编程语言（PPL）可表示的非参数模型的 MCMC 推理算法的方法。该方法建立在统一的纠缠 MCMC 框架之上，并通过提供一个在维度之间驱动状态移动的一般性过程，表明了 NP-iMCMC 可以推广许多现有的 MCMC 算法以用于非参数模型。

    Nov, 2022

  • 从时间序列数据中自动生成概率编程

    通过非参数高斯过程回归找到时间序列数据的描述性协方差结构从而构建具有表述性的概率编程描述， 不需要提供模型结构。

    Jul, 2016

  • 通用概率编程的 Lambda 演算基础

    本文通过在 terms 上创建一个 measure space，定义级别逐步逼近的连续 lambda-Calculus 的典型操作语义，并定义采样基异质的语义来实现 MCMC 的 Tracing，并证明了分布语义与集成所有 Traces 的分布具有等价性，这是第一个针对高阶函数语言 Trace MCMC 的验证正确性的证明。

    Dec, 2015

  • 利用粒子 MCMC 对高斯过程状态空间模型进行贝叶斯推断和学习

    通过向状态转移动力学分布中添加高斯过程先验，结合分析型建模和蒙特卡罗采样器进行直接联合平滑分布推断的方法，提出了一种非线性非参数状态空间模型的完全贝叶斯方法。

    Jun, 2013