Feb, 2024

通过近端点方法在随机优化中降低方差和样本复杂度

TL;DR该研究提出了一种随机近端点方法来解决随机凸复合优化问题,通过仅假设随机梯度的方差有界等较弱条件,建立了对于该方法收敛的高概率保证的低样本复杂度。此外,本研究的一个显著特点是开发了一个用于解决近端子问题的子程序,该子程序还作为一种新的方差减小技术。