关于无替换的SGD轨迹
SGD使用隐式正则化训练深度神经网络的确切方式一直以来都很难界定，但我们证明了SGD最小化了一个与分布式权重后验分布相关的平均势能加一个熵正则化项，但这个势能通常与原始损失函数不同。此外，我们表明SGD在经典意义下甚至不会收敛，因此这种'失衡'的行为是由于对于深度网络，SGD的梯度噪声是高度非各向同性的。我们在附录中给出了这些声明的广泛经验验证。
Oct, 2017
使用较小的学习率和SGD最陡峭的方向进行训练可以提高模型的训练速度和泛化能力，而较大的学习率或较小的批量大小将导致SGD进入更宽的区域。
Jul, 2018
本文提出了一种新的随机梯度下降算法sgdwor来优化平滑凸函数，相较于使用独立且重复地采样的传统算法sgd，sgdwor算法采样不重复且能获得更快的收敛速度，本文给出了sgdwor算法在一般的平滑且强凸函数下的首个非渐进结果：k次通信传输后，sgdwor算法的收敛速度为O(1/k^2)，并与sgd算法在小k下具有相同收敛率，同时对问题相关参数（如条件数）的依赖性更弱。
Mar, 2019
本文通过对训练损失函数的海森矩阵及其相关量的分析，探讨了随机梯度下降（SGD）的优化动态和泛化行为等三个问题，并在合成数据、MNIST 和 CIFAR-10 数据集上进行了大量实验支持其理论结果。
Jul, 2019
本研究针对模型学习速率为中等并逐渐降低的情况，研究了SGD和GD在超参数调节中的常见行为，以此试图解决机器学习中的算法偏差问题，并得出了不同方向偏差可能导致最终预测结果差异的结论。
Nov, 2020
本文研究随机梯度下降（SGD）的学习率对准确性的影响，证明当学习率适当大时，SGD的迭代路径离梯度下降路径更近，这种现象可通过引入一个隐式正则化项进行解释，并通过实验证明在适当的学习率下包含隐式正则化项可以提高测试准确性。
Jan, 2021
本文研究了随机梯度下降和全样本梯度下降在随机凸优化模型中泛化性能的分离问题，发现经典的全样本梯度下降算法在步数相同的情况下会出现过拟合且通常需要更多的步数才能与随机梯度下降算法获得类似的泛化性能。同时本文还探讨了正则化、稳定性和隐含偏差等概念在泛化中的作用。
Feb, 2021
本文研究了随机梯度下降在对角线线性网络上的动态规律，证明了它比梯度下降的解具有更好的泛化性能，并发现收敛速度控制偏见效应的大小，结果支持了结构化噪声可以引起更好泛化性能的理论结论。
Jun, 2021
本文通过动态稳定性的角度研究了随机梯度下降法（SGD）的隐式正则化，并探讨了稳定的最小值对二层ReLU神经网络和对角线线性网络的广义性能影响，发现SGD的稳定性正则化较于GD更强，LR越大效果越明显，解释了为什么SGD比GD更具普适性。
May, 2023