Jul, 2020
基于特征的建模:用于超参数化深度神经网络的平均场框架
Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks
Cong Fang, Jason D. Lee, Pengkun Yang, Tong Zhang
TL;DR该研究提出了一种新的均场框架用于超参数化深度神经网络的分析,利用概率分布和在连续极限下的功能来表示 DNN,并通过适当的重新参数化将其训练目标重新表述为凸优化问题,构建了一种称为神经特征流的非线性动力学来捕捉超参数化 DNN 的演化,证明了在均场区域中超参数化神经网络训练具有全局收敛性的首个全局收敛证明。