Jan, 2024

对无界损失的 PAC-Bayes-Chernoff 界限

TL;DR我们提出了一个新的高概率PAC-Bayes预言界,用于无界损失。该结果可以理解为Chernoff界的PAC-Bayes版本。证明技巧依赖于基于损失的Cramé变换来统一地对某些随机变量的尾部进行界定。我们强调了我们主要结果的两个应用。首先,我们展示了我们的界解决了许多PAC-Bayes界上优化自由参数的开放问题。最后,我们展示了我们的方法允许在损失函数上进行灵活的假设,从而得到泛化之前界的新界,并且可以最小化以获取类似于Gibbs的后验概率。