ICMLJun, 2023

神经元实际上被折叠了吗?神经表示中的细粒度结构

TL;DR研究发现,在训练良好的神经网络中观察到神经坍塌现象,并提出即使当看起来的神经表示坍塌时,微小的剩余变化仍然可以忠实准确地捕捉输入分布的内在结构。