本文提出了广义后验具有集中性，渐进正态性 (Bernstein-von Mises),A Laplace 近似正确，以及渐近正确的频率覆盖率的充分条件，并将其应用于广义似然的广义后验中，包括一般的伪似然，高斯马尔科夫随机场伪似然，完全观察的 Boltzmann 机器伪似然，Ising 模型伪似然，Cox 比例风险偏似然，以及基于中值的位置鲁棒推断的似然。此外，我们展示了如何使用我们的结果轻松建立指数族和广义线性模型的标准后验的渐进性质。

Jul, 2019

通过考虑非均匀采样方案，我们为二值观测的矩阵完成问题提供了理论保证，证明了分数后验的有效性。我们使用两种不同类型的先验分布来实现这一目标：低秩分解先验和谱缩放的学生先验，后者需要较少的假设。重要的是，我们的结果具有自适应性，不需要对参数矩阵的秩有先验知识，与最频繁的文献中的结果相当，但需要较少的限制性假设。

Apr, 2024

该论文通过对 MNIST 数据集进行实验，研究了 PAC-Bayes 参数约束为分解高斯分布时在优化 PAC-Bayes 界限时可能损失的紧密度，结果表明在某些情况下存在 5-6% 的显著紧密度差距。

Oct, 2023

本文研究了非参数逆问题中的后验分布，证明其收敛于真实参数的速率取决于参数的平滑度以及先验的平滑度和尺度。正确组合这些特征可以实现最小化速率。显示可信度集的频率覆盖取决于先验和真实参数的组合，先验更平滑会导致零覆盖，而粗糙的先验会导致保守的覆盖。在后一种情况下，可信区间的数量级是正确的。通过恢复受噪音干扰的基本函数的问题进行了数值演示。

Mar, 2011

本文着眼于以准 - Bayesian 分析非参数工具变量模型为主题，并重点关注准后验分布的渐近特性。

Apr, 2012

本文提出了一种改进的贝叶斯推断方法，可以通过条件数据的经验分布邻域而不是实际数据，提高模型对扰动的鲁棒性；该方法使用基于相对熵估计的邻域，通过将似然函数提升到分数次幂（即 tempering），使得可以使用标准方法实现推断，甚至在使用共轭先验时也能获得解析解。实验结果表明，在混合模型、未知阶数自回归模型及线性回归变量选择等任务中都能得到良好表现。

Jun, 2015

本文通过变分逼近 Gibbs posterior 的优化分布，从而实现和原始 PAC-Bayesian 程序同样的收敛速度，以替代通常过慢的 Markov chain Monte Carlo 方法，在多个学习任务中（分类、排名、矩阵完成）取得了良好结果。

Jun, 2015

提出了一种新的 PAC-Bayesian 界并构建了假设空间，使界在后验分布上是凸的，在经验性能与复杂性之间的折衷参数上也是凸的。通过 KL 散度来测量复杂性。提出了一种交替过程来最小化这个界，并给出了一个足够的条件，使得函数具有单一的全局最小值。提供实验结果表明，严格最小化该界在调整复杂性和经验性能之间的权衡方面与交叉验证相媲美。在所有实验中，即使违反了足够的条件，折衷结果仍然是凸的。

Aug, 2016

通过控制随机过程的矩和取极限，我们通过 Langevin 扩散过程分析贝叶斯模型中参数的后验收缩速率，并特别关注了结构和随机摄动边界对于结果的影响，此外，基于该技术，我们也证明了后验的 Bernstein-von-Mises 保证的非渐近版本。

Sep, 2019

本文提出了一种通用方法来证明分数后验变分近似的集中性，应用于矩阵补全和高斯 VB 两个例子，弥补了变分贝叶斯方法在理论方面的不足。

Jun, 2017