BriefGPT.xyz
Sep, 2017
深度学习中的隐式正则化
Implicit Regularization in Deep Learning
HTML
PDF
Behnam Neyshabur
TL;DR
本研究探讨深度学习中的泛化现象，并发现隐式正则化通过优化方法在深度学习模型的泛化和成功方面起着关键作用，我们进一步研究了不同的复杂度度量，以确保泛化并解释了优化算法如何隐含地正则化这些复杂度度量，为了更好地研究神经网络中的不变量，我们提出了复杂度度量和优化算法，并在许多学习任务上进行了评估。
Abstract
In an attempt to better understand
generalization
in
deep learning
, we study several possible explanations. We show that
implicit regularization<
→