标准模型之外的物理研究中高效的概率推理
介绍和证明了一个基于粒子马尔可夫蒙特卡罗的新的推理方法。该方法适用于图灵完备的概率编程语言,支持使用复杂控制流(包括随机递归)的模型的准确推理,并包括来自贝叶斯非参数统计的基元。实验证明,该方法比之前介绍的单一站点 Metropolis-Hastings 方法更有效。
Jul, 2015
该研究介绍了一种使用深度神经网络在概率编程模型中分摊推断成本的方法,并将深度学习与概率编程方法的优势相结合。这种名为 “编译推断” 的方法将用通用编程语言编写的概率程序的语义规范转换为用神经网络规范语言表示的训练过的神经网络,从而实现了原始模型的近似推断。
Oct, 2016
该论文提出了一个使用概率编程工具与物理模拟引擎相结合的框架,用于向机器人提供直观的物理环境交互能力,并通过模型自由方法使采样程序变得更高效,从而在模型自由方法和模型为基础的方法之间找到平衡,并通过模拟 Flappy Bird 游戏的实验结果,展示了该模型的绩效。
Apr, 2021
介绍了一种新型的基于模拟的推断技术,在高维情况下,这种技术超越了传统的近似贝叶斯计算方法,并扩展了基于神经网络的代理模型的方法,并演示了这些新技术比传统方法更具样本效率和提供更高保真度的推断。
May, 2018
通过创造性地利用进程、分叉、互斥和共享内存等标准操作系统功能,可以在任何编程语言中实现像顺序蒙特卡罗和粒子马尔科夫链蒙特卡罗这样的前向推理技术,我们定义了一个名为 Probabilistic C 的概率规划语言中间表示语言,它本身可以通过标准编译器编译成机器代码并链接到操作系统库中,生成一个高效、可扩展、可移植的概率规划编译目标,从而为优化概率规划系统打开了一条新的硬件和系统研究路径。
Mar, 2014
通过建立合适的性能度量标准的基准,我们评估了一些最新的利用神经网络和经典近似贝叶斯计算方法的方法,发现性能度量的选择关键,即使是最先进的算法也有很大的改进空间,顺序估计提高了样本效率,神经网络方法通常表现更好,但没有均匀的最佳算法。
Jan, 2021
本文介绍了一种利用神经估计器进行概率推断的方法,针对具有层次结构的模型,从实际应用的角度出发,利用粒子碰撞数据和强引力透镜观测数据进行案例研究并得出相应的结论。
Jun, 2023
我们倡导一种新的宇宙学基于概率的推断范式,利用最近在机器学习及其底层技术中的发展,加速在高维环境中的贝叶斯推断。具体来说,我们结合了(i)模拟 —— 其中训练一个机器学习模型来模仿宇宙观测量,例如 CosmoPower-JAX;(ii)可导性和概率编程,例如 JAX 和 NumPyro;(iii)可伸缩的 MCMC 采样技术,可以利用梯度,例如哈密顿蒙特卡罗;以及(iv)解耦且可伸缩的贝叶斯模型选择技术,纯粹从后验样本计算贝叶斯证据,例如在 harmonic 中学到的调和均值。这一范式使我们能够在传统方法的一小部分时间内进行完整的贝叶斯分析,包括参数估计和模型选择。首先,我们在 37 - 维和 39 - 维参数空间中,通过模拟的宇宙剪切分析,展示了这种范式的应用,比较了 ΛCDM 模型和动力学暗能量模型($w_0w_a$CDM)。我们的结果与传统的嵌套采样方法计算得到的后验轮廓和证据估计非常吻合,而且计算成本从需要 48 个 CPU 核心上的 8 个月时间减少到了使用 12 个 GPU 的 2 天时间。其次,我们考虑了三个模拟的下一代调查的联合分析,每个调查都进行了 3x2pt 分析,得到了 157 - 维和 159 - 维参数空间。在这种高维环境中,标准的嵌套采样技术根本不可行,需要在 48 个 CPU 核心上投入 12 年的计算时间。而另一方面,我们提出的方法只需要 24 个 GPU 的 8 天计算时间。我们在分析中使用的所有软件包都是公开可用的。
May, 2024
本研究提出了一种基于后验模拟的隐式模型先验和神经网络的元均账后验推断方法,用于系统地选择模型组件以及实现参数推断。研究表明此方法对于发现数据一致的模型配置,估计参数以及识别非可识别模型组件等方面能够提供有力的工具,有效地促进了数据驱动模型的复杂性建造与推断。
May, 2023
使用结构化概率分布的混合模型,提供了逼真的后验推断,相较于基于神经网络的仿真推断方法,在计算上具有更小的足迹,对于具有复杂模型和难以计算的似然函数的贝叶斯推断提供了一个可行的选择。
Mar, 2024