贝叶斯压缩回归
提出一种基于贝叶斯方法、将先验分布放置在回归系数以及模型空间上、使用针对高维协变量的针尖和板块高斯先验、通过 Gibbs 抽样执行的变量选择方法,具有可靠的选择一致性和优于其他方法的良好性能。
May, 2014
本研究使用贝叶斯压缩感知框架从概率学的角度研究了重尾先验下的线性模型,并借助基于随机场的 Perturb-and-MAP 算法提出了一种高效的方法近似估计高斯方差,实现对完整后验分布的捕捉及模型参数的学习并通过实验在图像去模糊中得到了良好效果。
Jul, 2011
本文提供了综合评估和比较 ABC 文献中提出的主要降维方法的表现,并引入了两种新的降维方法:基于 Akaike 和 Bayesian 信息准则的最佳子集选择方法和使用岭回归作为正则化程序的方法。我们通过分析三个具有挑战性的模型和数据集来说明这些维度规约技术的性能。
Feb, 2012
介绍了一种基于机器学习的方法,通过非线性条件异方差回归和改进的重要性采样方法估计后验概率密度,相较于现有方法在统计遗传学和排队模型等领域计算负担减轻了不少。
Sep, 2008
本研究通过采用贝叶斯视角,使用稀疏感知先验来修剪网络,使用 Hierarchical priors 修剪节点并使用后验不确定性确定编码权重的最优固定点精度,使得压缩率达到了最佳水平,并且仍然具有与优化速度或能量效率的方法相竞争的性能。
May, 2017
研究中提出了一种可扩展的变分贝叶斯方法,用于对稀疏线性回归中高维参数的一个单一或低维子集进行统计推断,通过对干扰坐标进行均场近似和谨慎地对目标的条件分布建模,只需要预处理步骤,保留了均场变分贝叶斯的计算优势,同时确保了对目标参数以及不确定性量化的准确可靠推断,该算法在数值性能方面与现有方法相媲美,并且在估计和不确定性量化方面建立了伯恩斯坦 - 冯・米塞斯定理的相关理论保证。
Jun, 2024
该研究论文探讨随机投影作为贝叶斯回归分析的数据降维技术,证明了高维分布在数据点从 n 到 k 时仍可以得到保留,通过对投影数据进行高斯似然函数的评估获得的结果误差很小,结果表明该方法能够高效恢复回归模型。
Apr, 2015