Sep, 2023

关于超参数神经网络理论与实践之间的脱节

TL;DR通过对无限宽度极限进行实证研究,我们的结果表明:无限宽度极限理论不适用于实际的优化、不确定性量化和持续学习问题,进而对于无限宽度极限的实际相关性提出了质疑。