Jun, 2022

PAC-Bayes下的冷后验分析

TL;DR通过PAC-Bayes泛化界限的视角研究了冷后效应,发现在非渐进情况下,当训练样本数量相对较少时,应该考虑到近似贝叶斯推断对超样本数据性能的保证,并指出对于回归和分类任务,利用PAC-Bayes解释温度参数可以解释冷后效应。