BriefGPT.xyz
Apr, 2022
神经网络中带全局收敛保证的特征学习
On Feature Learning in Neural Networks with Global Convergence Guarantees
HTML
PDF
Zhengdao Chen, Eric Vanden-Eijnden, Joan Bruna
TL;DR
该研究通过梯度流优化模型，研究宽神经网络中的特征学习和训练损失收敛问题，证明了一定条件下训练损失会以线性速率收敛于零，并展示了该模型的学习特性和推广能力。
Abstract
We study the
optimization
of wide
neural networks
(NNs) via
gradient flow
(GF) in setups that allow
→