Oct, 2024

球面上的截断核随机梯度下降

TL;DR本研究针对高维空间中适合球面数据拟合的困难,提出了一种新的算法——截断核随机梯度下降(T-kernel SGD)。该算法通过动态调整假设空间,平衡偏差和方差,并且能够在使用常数步长时针对球面以理论最优的速度收敛,同时显著降低计算复杂度和存储需求。