Nov, 2022
通过直接 PAC-Bayes 界最小化来改善鲁棒泛化
Improving Robust Generalization by Direct PAC-Bayesian Bound Minimization
Zifan Wang, Nan Ding, Tomer Levinboim, Xi Chen, Radu Soricut
TL;DR本文研究了鲁棒优化中的过拟合现象,提出了一种不同形式的鲁棒 PAC-Bayesian 边界并通过迹(TrH)正则化器将 PAC-Bayesian 学习与鲁棒损失面的几何形状连接,实验结果证明了该方法能够提高视觉变换器的鲁棒性且计算成本低。