BriefGPT.xyz
Jan, 2020
通过条件互信息推理广义化问题
Reasoning About Generalization via Conditional Mutual Information
HTML
PDF
Thomas Steinke, Lydia Zakynthinou
TL;DR
该论文提出了一个信息理论框架来研究机器学习算法的泛化性能，利用条件互信息量化算法输出和训练数据之间的关系，并提出基于VC维、压缩方案、差分隐私等方法来获得有界的条件互信息，从而得出泛化的各种形式。
Abstract
We provide an
information-theoretic framework
for studying the
generalization properties
of
machine learning algorithms
. Our framework tie
→