Jun, 2024

拟贝叶斯满足藤

PDF
TL;DR通过使用 Sklar 定理将预测分布分解为一维边缘预测和高维 copula，提出了一种扩展 Quasi-Bayesian 预测到高维的方法。我们利用高度表达 vine copulas 来建模依赖关系，并使用鲁棒分歧（如能量分数）来调整超参数。在某些情况下，我们的提出的 Quasi-Bayesian Vine（QB-Vine）是一个具有解析形式的完全非参数密度估计器，并且其收敛速度与数据维度无关。我们的实验证明，QB-Vine 适用于高维分布（约 64 个维度），训练所需样本量非常小（约 200 个样本），并且在密度估计和监督任务方面的性能显著优于具有解析形式的现有方法。
quasi-bayesianpredictive distributiondirichlet process mixture modelsklar's theoremqb-vine
发现论文，激发创造
  • 非参数仪器变量模型拟贝叶斯分析

    本文着眼于以准 - Bayesian 分析非参数工具变量模型为主题，并重点关注准后验分布的渐近特性。

    Apr, 2012

  • 非线性回归模型的近似贝叶斯计算

    介绍了一种基于机器学习的方法，通过非线性条件异方差回归和改进的重要性采样方法估计后验概率密度，相较于现有方法在统计遗传学和排队模型等领域计算负担减轻了不少。

    Sep, 2008

  • 一种基于变分贝叶斯方法的高维线性回归中低维参数去偏推断

    研究中提出了一种可扩展的变分贝叶斯方法，用于对稀疏线性回归中高维参数的一个单一或低维子集进行统计推断，通过对干扰坐标进行均场近似和谨慎地对目标的条件分布建模，只需要预处理步骤，保留了均场变分贝叶斯的计算优势，同时确保了对目标参数以及不确定性量化的准确可靠推断，该算法在数值性能方面与现有方法相媲美，并且在估计和不确定性量化方面建立了伯恩斯坦 - 冯・米塞斯定理的相关理论保证。

    Jun, 2024

  • 变分贝叶斯蒙特卡罗

    本文介绍了一种新型的高效样本推断框架，变分贝叶斯蒙特卡罗（VBMC），可用于难以处理的黑盒似然的后验分布和模型评估。该方法结合了变分推断和基于高斯过程的主动采样贝叶斯积分，并在合成和实际数据的测试中表现出很好的性能。

    Oct, 2018

  • 贝叶斯循环回归的 von Mises 准过程

    本文介绍了一种用于预测圆形值的回归模型，探讨了与高斯过程相关的一族表达且可解释的分布。该模型密度简单，具有最大熵，通过引入一种新的 Stratonovich-like augmentation，可以进行快速的 Markov Chain Monte Carlo 采样。同时，本文论证了在这些模型中采用贝叶斯方法进行参数的转导学习，通过适用于单位圆的两个欧几里得维度的概率模型，对风向和运动步态周期百分比进行了实验证明。

    Jun, 2024

  • 数据流的向量量化贝叶斯神经网络推理

    本研究提出了一种名为 VQ-BNN 的新模型，可以快速准确预测数据流的预测结果，同时避免了通常 Bayes 网络需要耗费大量计算资源的问题。

    Jul, 2019

  • 非参数变分推断

    本文提出了一种基于非参数核密度估计的变分逼近方法，通过优化内核位置和带宽参数最大化数据边际似然下限，不同于其他变分逼近方法，本方法能够捕捉后验分布的多个模式，并成功应用于各种图模型和非线性矩阵分解模型中，预测性能优于更专业化的变分方法和基于样本的逼近方法。

    Jun, 2012

  • 变分贝叶斯方法的频率派一致性

    本文证明了变分贝叶斯法在频率学意义下是稳健的，它可以通过极小化 KL 散度来估计后验分布，并且其对应的参数的变分期望是一致的和渐近正态的。此理论应用于贝叶斯混合模型、Bayesian 广义线性混合模型和贝叶斯随机块模型，并通过模拟研究进行了验证。

    May, 2017

  • 高维稀疏先验线性回归的变分贝叶斯

    研究了高维稀疏线性回归中，贝叶斯模型选择先验的平均场斯派克和板块变分贝叶斯（VB）逼近，证明在设计矩阵兼容条件下，该逼近方式渐进地达到最优稀疏性真理和响应向量的最优预测，经实验证明该算法与其他最先进的贝叶斯变量选择方法具有相当的性能，同时提出了一种新的优先更新方案来提高变分推理算法的性能。

    Apr, 2019

  • 具有不可解似然函数的变分贝叶斯方法

    本文提出的变分贝叶斯方法可以推广到似然函数难以处理，但可以偏差无偏估计的情况，这种方法能够以较高精度近似获得边际后验分布。

    Mar, 2015