ICMLMay, 2023

潜在图像流形的数据表示研究

TL;DR本文探究了图像流形的曲率,发现卷积神经网络在分类任务中的整体曲率表现具有特殊的特点,即初始速度的加速,接着进入了一个较长的平稳期和之后的再加速。此外,我们发现最后两层图层的曲率缺口与网络的泛化能力有很强的相关性,并观察到常见的正则化方法,如 mixup,在相比其他方法时,呈现出更平的表示特征。