finite-sum problems | BriefGPT

关键词finite-sum problems

搜索结果 - 4

高效的基于符号的优化：通过方差减少加速收敛
本文介绍了 signSGD 方法及其收敛速率的改进，并引入了基于符号的随机方差缩减（SSVR）方法，通过引入方差缩减估计器来跟踪梯度并利用其符号进行更新；此外，还研究了分布式环境中的异构多数投票，引入了两种新算法以获得更好的收敛速率，通过数
PDFa month ago
ICMLRECAPP: 为凸优化制备更高效的催化剂
本文提出了一种名为 RECAPP 的新型加速近端点法，通过放宽误差标准来避免高精度算法，该方法在有限和问题中能够获得最好的已知复杂度，并且在凸优化中也表现出良好的性能。
PDF2 years ago
ANITA: 一种优化的无循环加速方差减少梯度法
本文提出了一种名为 ANITA 的新型加速梯度方法，可用于解决基本的有限和优化问题，并在确定通常的凸和强凸设置中比之前的最先进结果更好。
PDF3 years ago
分布式和随机优化的随机梯度外推
本文探讨了在分布式多代理网络上定义的一类有限和凸优化问题，通过开发一种新的随机渐进梯度算法（RGEM），解决了无需精确梯度评估，但可以实现最优复杂度界限的问题，同时维持了最佳的随机复杂度（直至一定的对数因子），作者同时基于 Nesterov
PDF7 years ago