pac-bayes | BriefGPT - AI 论文速递

关键词pac-bayes

搜索结果 - 6

对无界损失的 PAC-Bayes-Chernoff 界限
我们提出了一个新的高概率 PAC-Bayes 预言界，用于无界损失。该结果可以理解为 Chernoff 界的 PAC-Bayes 版本。证明技巧依赖于基于损失的 Cramé 变换来统一地对某些随机变量的尾部进行界定。我们强调了我们主要结果的
PDF6 months ago
用哈密尔顿蒙特卡洛估计最优的 PAC-Bayes 界限
该论文通过对 MNIST 数据集进行实验，研究了 PAC-Bayes 参数约束为分解高斯分布时在优化 PAC-Bayes 界限时可能损失的紧密度，结果表明在某些情况下存在 5-6% 的显著紧密度差距。
PDF8 months ago
特征噪声提升标签噪声下的深度神经网络泛化能力
通过在训练数据的特征上直接添加噪声，可以增强标签噪声下深度神经网络的泛化能力，并且通过对模型权重和特征之间的互信息施加上界来约束 PAC-Bayes 泛化界限，进一步确保深度神经网络在标签噪声下的有效泛化。
PDFa year ago
联邦学习：你可能不必频繁通信！
本文研究了联邦学习模型的泛化误差，通过 PAC-Bayes 和速率失真理论对其进行了分析，发现在联邦学习中客户端和参数服务器通信的轮数会影响泛化误差，并且在应用于 FSVM 时，泛化误差随着轮数增加而增加，因此需要优化轮数以减小 FL 算法
PDFa year ago
ICML离线学习的指数平滑
本文提出了一种对 IPS 进行正则化的方法，并推导出了一个可扩展的双边 PAC-Bayes 泛化界限，该界限适用于标准 IPS，证明了正则化 IPS 的实用性以及性能优越性，并提出了一种可以不需要正则化的区分情形。
PDFa year ago
ICML一种用于终身学习的 PAC-Bayesian 边界
本文从理论角度研究终身学习，提出了 PAC-Bayesian 泛化界限，得出了两种原则性的算法并取得了可与现有方法相媲美的结果。
PDF11 years ago