关于通用预测和贝叶斯确认
通过桶消元算法重新构建概率推理算法,实现寻找最可能解释、后验最大假设和最大期望效用以及更新信仰的功能,并在此框架内提供将条件和消元结合的通用方法。同时,通过问题结构给出了所有算法的复杂度界限。
Feb, 2013
Solomonoff预测的框架将先验概率指派到假设上,这些假设与其Kolmogorov复杂度成反比。然而,Solomonoff先验相对于通用图灵机的选择是有问题的,同时,Solomonoff先验也是不可计算的。不过,对这两个问题有回应。同样的Solomonoff先验会随着越来越多的数据收敛。此外,对于Solomonoff先验也有可计算的近似值,但是作者认为在这两类问题的回应之间存在着紧张关系,因为可计算的Solomonoff预测近似并不总是能收敛。
Jun, 2022
We introduce an exact Bayesian inference method for discrete statistical models, using a probabilistic programming language that supports both discrete and continuous sampling, and probability generating functions to compute posterior probabilities, expectation, variance, and higher moments automatically and with competitive performance.
May, 2023
基于可靠性和可问责性的指导原则,本文提出了一种模型无关的统计框架,用于不确定性量化和统计推断,通过预测集提供可控制第一类错误的有限样本控制方法,并提供了灵活的工具用于不确定性概率推理。
Jul, 2023
本文综述了在统计推断中存在的内存限制对性能的影响,包括假设检验、参数估计和分布特性检验/估计等几个典型问题,总结了该领域内的主要研究成果,并提取了一些算法构建的基本模块和推导下限的有用技术。
Dec, 2023
本文介绍Quantified Boolean Bayesian Network (QBBN),提供了逻辑和概率推理的统一视角,通过创建具有逻辑推理基础的无界布尔变量的贝叶斯网络,以解决信息检索中大型语言模型(LLM)产生幻觉的问题,并且研究了推断方法中的LBP的使用和收敛性。
Feb, 2024
本文提出了一个名为BIRD的贝叶斯推理框架,该框架针对大型语言模型提供了可控和可解释的概率估计,通过加入反推因素、LLM蕴含和可学习的推导贝叶斯建模。实验表明,使用开源的Llama模型,BIRD的概率估计与人类判断的一致率达到了65%,比最先进的GPT-4提高了35%。同时,我们还展示了BIRD可以直接用于许多真实世界应用的可靠决策。
Apr, 2024
本研究解决了智能系统在不确定性评估方面的长期目标,通过德·费内蒂的贝叶斯推理视角,探讨预训练序列模型能够推理的潜在概念。文章提出的关键见解是,通过在序列模型架构中引入交换性编码,可以将上下文学习扩展至显式统计推断,从而在不确定性量化的下游任务中显著提升性能。
Aug, 2024
本研究探讨了所罗门夫归纳法在序列预测中的最优性,提出变压器模型在接近这一理想的预测能力上优于其他方法。我们提供了支持和反对这一假设的证据,并提出了考虑这些证据的替代假设,展望了未来在此基础上对变压器及其他人工智能的建模方向。
Aug, 2024