Jun, 2024
通过谱正则化实现持续学习
Learning Continually by Spectral Regularization
Alex Lewandowski, Saurabh Kumar, Dale Schuurmans, András György, Marlos C. Machado
TL;DR神经网络的塑性缺失意味着在学习过程中网络训练变得更加困难。我们通过改进初始化技术、提出新的正则化策略以及保持梯度多样性来改善持续学习,并证明这些替代技术在不同的监督学习任务和模型结构上能够提高持续学习性能。