这篇论文简要介绍了现有的PAC-Bayesian理论，重点关注三种泛化界限及其应用，可以有效地处理规则参数及提供训练保障。

Jul, 2013

本文旨在扩展Rademacher复杂性和最新PAC-贝叶斯理论之间的桥梁，首先通过平移Rademacher过程来匹配Catoni PAC-Bayes界限的快速率，然后最新地导出了快速PAC-Bayes界限，重点是后验集中在的经验风险表面的“平坦度”。

Aug, 2019

本文研究PAC-Bayes边界中的先验和后验之间的KL散度，在线性PAC-Bayes风险边界中，通过选择期望后验作为先验，可以最小化边界的期望值。本文显示基于oracle prior的界限可能是次优的：在某些情况下，使用数据依赖的oracle prior可以得到更强的界限，而将oracle prior设为条件期望。该文章还应用该新原则在非凸学习中，并在MNIST和Fashion MNIST中模拟数据依赖的oracle prior，展示了两种情况下的新的非虚位界限。

Jun, 2020

该研究探讨了基于数据相关分布的随机预测模型在训练后的泛化能力以及基于 PAC-Bayes 分析的上界推导方法，同时研究了使用数据相关先验分布的应用，包括针对无界方差的损失函数的一种新颖的边界推导方法。

Jun, 2020

本研究提出了一种多样本损失方法用以改进贝叶斯后验预测分布的泛化性能，该方法不仅具有计算优势还提供了 PAC 泛化保证，实证研究显示该方法可以有效改善预测分布。

Oct, 2020

通过PAC-Bayes泛化界限的视角研究了冷后效应，发现在非渐进情况下，当训练样本数量相对较少时，应该考虑到近似贝叶斯推断对超样本数据性能的保证，并指出对于回归和分类任务，利用PAC-Bayes解释温度参数可以解释冷后效应。

Jun, 2022

该论文提出了一种新的高概率PAC-Bayes界限，其中涉及到了带界范围和更一般尾部行为的损失，并提出了一些新的基于参数和基于事件的界限技术，可以得到更紧密和可解释的结果，并将结果扩展到任何现有范围上

Jun, 2023

我们提出了一个新的高概率PAC-Bayes预言界，用于无界损失。该结果可以理解为Chernoff界的PAC-Bayes版本。证明技巧依赖于基于损失的Cramé变换来统一地对某些随机变量的尾部进行界定。我们强调了我们主要结果的两个应用。首先，我们展示了我们的界解决了许多PAC-Bayes界上优化自由参数的开放问题。最后，我们展示了我们的方法允许在损失函数上进行灵活的假设，从而得到泛化之前界的新界，并且可以最小化以获取类似于Gibbs的后验概率。

Jan, 2024

通过使用(f,Γ)差异得出新的PAC-Bayes广义边界，本文还提供了一系列概率差异(包括但不限于KL、Wasserstein和总变差)的PAC-Bayes广义边界，在后验分布性质不同的情况下选择最佳解，我们探索了这些边界的紧密程度并与统计学习的之前结果联系起来，这也是特定情况。此外，我们将这些边界作为训练目标实例化，提供非平凡的保证和实际性能。

Feb, 2024

PAC-Bayesian analysis allows sequential prior updates with no information loss and has significant improvements in empirical evaluation.

May, 2024