高维稀疏先验线性回归的变分贝叶斯
研究变分贝叶斯对于稀疏高维逻辑回归中广泛使用的贝叶斯模型选择先验的均场尖峰和板 VB 近似,该方法可以在 L2 和预测损失方面为稀疏的实际结果提供最佳收敛速率,并给出了有效的先验选择方法。
Oct, 2020
研究中提出了一种可扩展的变分贝叶斯方法,用于对稀疏线性回归中高维参数的一个单一或低维子集进行统计推断,通过对干扰坐标进行均场近似和谨慎地对目标的条件分布建模,只需要预处理步骤,保留了均场变分贝叶斯的计算优势,同时确保了对目标参数以及不确定性量化的准确可靠推断,该算法在数值性能方面与现有方法相媲美,并且在估计和不确定性量化方面建立了伯恩斯坦 - 冯・米塞斯定理的相关理论保证。
Jun, 2024
提出一种基于贝叶斯方法、将先验分布放置在回归系数以及模型空间上、使用针对高维协变量的针尖和板块高斯先验、通过 Gibbs 抽样执行的变量选择方法,具有可靠的选择一致性和优于其他方法的良好性能。
May, 2014
本研究使用贝叶斯压缩感知框架从概率学的角度研究了重尾先验下的线性模型,并借助基于随机场的 Perturb-and-MAP 算法提出了一种高效的方法近似估计高斯方差,实现对完整后验分布的捕捉及模型参数的学习并通过实验在图像去模糊中得到了良好效果。
Jul, 2011
本文研究高维贝叶斯线性回归的计算复杂度,介绍了一种截尾稀疏先验变量选择方法,通过 Metropolis-Hastings 算法,保证了变量选择的一致性和快速混合。
May, 2015
该论文提出了一种基于变分贝叶斯核选择算法的稀疏高斯过程回归模型,通过将核表示成一个随机变量,并利用其先验和后验信念来学习其不确定性,进而避免避免过度自信,通过随机梯度上升的方法来迭代地最大化变分下界以提高精度,该方法适用于大规模数据集。
Dec, 2019
本文介绍了一种基于贝叶斯思想的算法框架,通过查询稀疏线性模型后验协方差来解决高阶贝叶斯决策问题,并且利用该算法框架成功地推动了磁共振成像的采样轨迹优化,为实际图像的压缩感知提供了新的启示。
Oct, 2008
本文针对大数据的稀疏高斯过程模型的一类不同于现有方法的低秩 GP 逼近模型展开研究,提出了基于稀疏频谱 GP 模型的随机变分贝叶斯框架,该框架结合贝叶斯方法处理频率谱避免过拟合,利用本地数据提高预测性能,并利用参数化技巧使得所得到的随机梯度具有线性结构,从而提高了稀疏 GP 模型的性能。实验结果表明,我们的模型优于现有的 SGP 模型的实现方法。
Nov, 2016
本文基于最大后验 (MAP) 估计,提出了一种包含参数先验信息的贝叶斯推断层次结构,同时提供了相关的计算实例和应用案例,探讨了在高维数据下,在变量选择等问题中贝叶斯方法的优势与局限性。
Sep, 2010