Bayesian 深度学习的不一致性引起了越来越多的关注，温度调节或广义后验分布通常提供了解决这个问题的直接有效方法。本研究引入了一个统一的理论框架，将 Bayesian 不一致性归因于模型规范不当和先验不足，提出了广义 Laplace 近似方法来获得高质量的后验分布。

May, 2024

研究误差模型下贝叶斯后验分布的渐近行为并研究多个假设，包括基于距离定义的偏差度量，以及应用于凸模型和非凸模型的加权 L1 度量，并探讨其扩展至不独立等但相互独立的情况。

Dec, 2013

本文提出了一种通用框架来理解高斯过程回归中点估计和同时贝叶斯可信区间的频率覆盖率，并通过最优化的变量证明了高斯过程回归具有最小化相对于最高模数的后收缩率。

Aug, 2017

该研究探讨了利用分数似然函数通过 Bayes 定理来更新先验分布所得到的分数后验分布，分析了在一般错误规范框架下分数后验的收缩性质，讨论了分数后验的贝叶斯预言不等式，得出了几点基于平均的贝叶斯过程相对于基于最优化的统计规律过程的优越性，同时给出了在上述理论基础下收敛于真值的一些具体应用，譬如凸形回归问题和高斯过程回归问题。

Nov, 2016

本文证明了变分贝叶斯法在频率学意义下是稳健的，它可以通过极小化 KL 散度来估计后验分布，并且其对应的参数的变分期望是一致的和渐近正态的。此理论应用于贝叶斯混合模型、Bayesian 广义线性混合模型和贝叶斯随机块模型，并通过模拟研究进行了验证。

May, 2017

本文研究了基于经验似然和分布鲁棒解的方法进行随机优化问题的统计推断，特别关注最优值的置信区间和渐近达到精确覆盖的解决方案。我们提出了一个基于非参数 $f$- 分歧球构建的分布不确定性集合的广义经验似然框架，用于 Hadamard 可微函数和随机优化问题，从而提供了一个有原则的选择分布不确定性区域大小的方法，以实现达到精确覆盖的单侧和双侧置信区间。我们还给出了我们分布鲁棒的公式的渐近展开，表明如何通过方差来规范化问题。最后，我们证明了，我们研究的分布鲁棒公式的优化器具有与经典样本平均逼近中的优化器基本相同的一致性属性。我们的一般方法适用于快速混合的平稳序列，包括几何上遗传的 Harris 递归马尔科夫链。

Oct, 2016

本文提出了一种通用方法来证明分数后验变分近似的集中性，应用于矩阵补全和高斯 VB 两个例子，弥补了变分贝叶斯方法在理论方面的不足。

Jun, 2017

本文通过变分逼近 Gibbs posterior 的优化分布，从而实现和原始 PAC-Bayesian 程序同样的收敛速度，以替代通常过慢的 Markov chain Monte Carlo 方法，在多个学习任务中（分类、排名、矩阵完成）取得了良好结果。

Jun, 2015

本文研究了超参数区域内随机特征回归模型的后验预测分布的行为与最大后验估计风险的比较，证明当模型维度增长快于样本数的任何常数倍时，两者的演化存在信噪比的相变现象。

Jun, 2023

本文提出了新型 Orlicz 偏差的概念 —— 广义 Bernstein-Orlicz 偏差，并基于更一般的指数类（即子 Weibull）尾巴假设，推导了一系列与高维统计分析有关的概率学不等式，进而应用于高维数据分析领域，包括 HD 协方差矩阵估计和 Lasso 估计器的收敛率分析等。

Apr, 2018