Oct, 2020

基于Bandit Sampling的Adam深度学习方法

TL;DR本文提出了一种名为Adambs的通用优化方法,该方法可以适应模型收敛过程中不同训练样本的重要性,从而加速收敛,实验结果表明Adambs在各种模型和数据集上都可以快速收敛。