高维模型中的贝叶斯推断

Jan, 2021

Bayesian inference in high-dimensional models

Sayantan Banerjee, Ismaël Castillo, Subhashis Ghosal

TL;DR本文综述了贝叶斯及相关方法在高维模型中的性质，如许多正常问题，线性回归，广义线性模型，高斯和非高斯图模型等。同时也讨论了有效的计算方法。

Abstract

Models with dimension more than the available sample size are now commonly used in various applications. A sensible inference is possible using a lower-dimensional structure. In regression problems with a large number of predictors, the model is often assumed to be sparse, with only a few predictors active. Interdependence between a large number of variables

high-dimensional models bayesian inference graphical models sparse regression uncertainty quantification

发现论文，激发创造

带稀疏先验的贝叶斯线性回归

研究高维线性回归的完全贝叶斯程序，旨在寻找未知的稀疏矢量，选择正确的稀疏模型或显著不同于零的系数，并构建和研究置信集以量化不确定性。

Mar, 2014

一种用于构建稀疏先验的分层贝叶斯框架

本文基于最大后验 (MAP) 估计，提出了一种包含参数先验信息的贝叶斯推断层次结构，同时提供了相关的计算实例和应用案例，探讨了在高维数据下，在变量选择等问题中贝叶斯方法的优势与局限性。

Sep, 2010

稀疏高斯图模型的贝叶斯结构学习

本文介绍了一种基于贝叶斯框架的高斯图模型确定方法，它是基于连续时间出生 - 死亡过程的转维度马尔可夫链蒙特卡罗方法。该方法易于实现，在高维图形方面具有计算可行性，验证表明该方法在收敛、图形空间中的混合和计算时间方面优于替代贝叶斯方法，并应用于基因表达研究中。

Oct, 2012

具有缩小和扩散先验的贝叶斯变量选择

提出一种基于贝叶斯方法、将先验分布放置在回归系数以及模型空间上、使用针对高维协变量的针尖和板块高斯先验、通过 Gibbs 抽样执行的变量选择方法，具有可靠的选择一致性和优于其他方法的良好性能。

May, 2014

高维分类的贝叶斯条件张量分解

使用 Tucker 分解模型，配合贝叶斯方法与马尔可夫蒙特卡罗算法进行变量选择，取得高准确率的分类模型，使其适用于高维分类数据并解决标记互制问题。

Jan, 2013

深度贝叶斯模型的改进变分推理

深度学习和贝叶斯深度学习使用变分推断和边缘似然来进行后验推理和模型选择。

Jan, 2024

变分贝叶斯推断潜变量模型的参数和结构

本文提出了变分贝叶斯 (Variational Bayes) 框架，通过解决概率图模型中潜在变量及其结构计算的问题，避免了因参数而导致过拟合和子最优泛化表现的通常方法，同时证明了该算法能成功应用于无监督聚类、盲源分离等模型。

Jan, 2013

非线性回归模型的近似贝叶斯计算

介绍了一种基于机器学习的方法，通过非线性条件异方差回归和改进的重要性采样方法估计后验概率密度，相较于现有方法在统计遗传学和排队模型等领域计算负担减轻了不少。

Sep, 2008

贝叶斯压缩回归

本文提出一种基于随机压缩预测变量的高维回归方法，并使用模型平均来减少方法对于随机投影矩阵的敏感度，可用于实际数据应用。

Mar, 2013

稀疏广义线性模型的大规模变分推断和实验设计

本文介绍了一种基于贝叶斯思想的算法框架，通过查询稀疏线性模型后验协方差来解决高阶贝叶斯决策问题，并且利用该算法框架成功地推动了磁共振成像的采样轨迹优化，为实际图像的压缩感知提供了新的启示。

Oct, 2008